天眼查App显示，2025年7月11日，「基于MLA的序列处理方法及相关装置、系统和存储介质」专利正式进入专利的公布阶段。申请人为科大讯飞股份有限公司，该项人工智能计算领域专利涉及序列处理中的多头注意力机制优化技术。据专利信息显示，该方案能够在基于MLA进行序列处理时降低通信量，以提升处理效率。发明人为葛宇辰、张海俊、许瑞阳、刘丹、汪锦想。本申请公开了一种基于MLA的序列处理方法及相关装置、系统和存储介质，方法包括：基于低秩压缩的第一查询特征经解压缩后进行旋转位置嵌入，得到目标查询特征；基于低秩压缩的第一键值特征进行切分，得到不同计算单元待处理的第一子键值特征；由不同计算单元对所分配处理的第一子键值特征进行旋转位置嵌入，得到第二子键值特征；基于各个计算节点进行通信，得到第一键值特征经旋转位置嵌入的第二键值特征；基于第二键值特征，得到目标键特征和目标值特征；基于目标查询特征、目标键特征和目标值特征执行多头注意力机制。上述方案，能够在基于MLA进行序列处理时降低通信量，以提升处理效率。

免责声明：本文内容由开放的智能模型自动生成，仅供参考。