语音语言模型(LSLM)领域长期面临碎片化发展困境:架构路径各异、训练数据私有、评估标准缺失,这些问题严重阻碍了技术进步和公平比较。近日,北京深度逻辑智能科技有限公司推出LLaSO——全球首个完全开源的端到端语音语言模型研究框架,旨在为LSLM研究建立统一标准。

论文地址:
代码地址:
模型地址:https://huggingface.co/papers/2508.15418
⏩语音AI发展的核心难题:缺乏统一标准的竞争格局
语音AI技术为何进展缓慢?这如同武林高手各自为战,虽然身怀绝技,却因修炼方法、兵器选择和比武规则截然不同,导致无法真正比较实力高低,更难以相互学习提升。当前面临的主要挑战包括:
架构路径混乱:在构建能够同时处理语音和文本的AI系统方面,业界存在众多技术方案,但缺乏被广泛认可的最优解决方案。
训练资源封闭:顶尖模型往往基于企业内部的大规模专有数据集进行训练,这种封闭性使得外部研究团队难以验证成果,也无法区分性能提升究竟源于算法突破还是数据优势。
应用场景狭窄:现有基准测试主要聚焦于"语音识别转录"等基础功能,而对语音中蕴含的情绪表达、地域特色、语调变化和交流意图等深层信息重视不足。
互动方式受限:绝大部分系统仅能处理"文本指令配合音频输入"的固定模式,很少具备处理纯语音自然对话的能力。
这些因素相互交织,造成了研究领域的割裂状态,严重阻碍了突破性技术进展的实现。
⏩LLaSO框架:用“三件套”打造统一标准

图一:llaso语料库的制作流程
为应对上述挑战,研究者构建了LLaSO框架,它由三个核心的公开资源组成:
1、LLaSO-Align(对齐数据集):一个包含1200万样本的庞大语料库。它的核心任务是“语音转文字”,通过海量数据让模型学会将语音信号和文字的语义精准对应起来,这是模型“听懂”话语的基础。
2、LLaSO-Instruct(指令数据集):一个拥有1350万样本的多任务指令库。它不再局限于简单的语音转文字,而是涵盖了20种不同的任务,不仅能识别文字,还能识别说话人的情感、口音、年龄,甚至判断话语的意图。这正是打造下一代智能助理和高效会议纪要工具的关键。更重要的是,它系统性地支持三种交互模式,包括纯语音对话。

图二:LLaSO语料库的任务组成
3、LLaSO-Eval(评估基准):一个包含超过1.5万个样本的“标准化考场”。所有模型都可以在这个统一的基准上进行测试,得分高低一目了然,确保了评估的公平性和可复现性。

图三:LLaSO-Base在LLaSO-Eval基准测试上的表现结果
这三大组件共同构成了一个完整的训练、微调和评估流水线,为语音大模型研究提供了前所未有的开放性和便利性。
⏩LLaSO-Base:高性能且完全开放的基准模型
为了证明LLaSO框架的实际效果,研究团队开发并公开了LLaSO-Base参考模型。这个拥有38亿参数的模型并非单纯追求极限性能,而是致力于构建一个基于LLaSO公开数据集、任何研究机构都能完整重现的强劲基准。
●系统构成:LLaSO-Base采用经过实战验证的三模块设计:语音感知组件(负责音频理解)、特征映射层(实现模态转换)以及核心语言处理单元(承担推理功能)。
●学习流程:整个训练采用双阶段策略,首先通过"模态对齐"让系统掌握语音与文本的映射规律,随后利用大规模指令数据进行"能力调优",使模型具备复杂任务的分析和执行能力。

图四:LLaSO模型架构示意图
⏩测试成果:用数据验证,各项指标全面突破
在LLaSO-Eval这个权威测试平台上,LLaSO-Base交出了怎样的答卷?
评测结果显示,LLaSO-Base获得了0.72的标准化综合评分,在参与测评的11个业界主流模型中夺得头名,明显超越排名第二的Kimi-Audio(0.65分)和第三名Qwen2-Audio(0.57分),充分验证了LLaSO技术框架的先进性。
基于深入的性能分析,研究发现了几个重要规律:
●训练任务的丰富度决定模型上限:接受过多元化任务训练的系统不仅整体表现更优秀,响应配合度也更高,很少出现拒绝执行指令的情况。
●全语音交互仍是技术难点:对于绝大部分现有模型来说,实现完全基于语音的自然交流依然是一个艰难的技术挑战。
●内容理解强于身份识别:模型在解析语音的"表达内容和意图"方面已相当出色,但在判断"说话者个人特征"(比如年龄判断、口音识别)等维度还有较大改进余地。

图五:LLaSO-Base的实验结果
⏩结语与未来展望
LLaSO的推出为当前相对分散的语音AI领域建立了一套开放透明的统一准则。这是业界首次提供包含数据集、评测体系和参考模型在内的完整开源生态,大幅降低了技术门槛,让开发者能够在公正透明的环境中开展对比研究和技术创新。
相信这一"一站式"开源方案将引领语音AI领域的新一轮技术革命,为研究人员扫清发展障碍,让构建真正能够理解人类语音情感和意图的智能应用变为现实。
