科大讯飞做大模型：功能不需样样冒尖，先打造业务需要的能力

“讯飞研究院并非一个纯粹闭门造车的技术研究院。”这句话，出自科大讯飞副总裁、研究院院长刘聪之口。自2005年成立以来，这个研究院就是科大讯飞产品的技术后盾，大模型浪潮袭来，情况也没变。

说白了，研究院大部分的技术，都对应着具体的业务需求——一边迭代基座模型，另一边还得深入业务场景搞研发。这可不是什么“先理论研究再找落地”，而是两手都要抓。

2022年12月，讯飞启动了“1+N人工智能大模型技术及应用”专项攻关。“1”是通用大模型底座，“N”则是把大模型技术铺到教育、医疗、汽车、办公、智能硬件等多个行业。一年多下来，对“1”和“N”的理解，也在悄然变化。

开发，今年的节奏已经不同

从去年5月星火大模型首发至今，讯飞研究院一年里迭代到了4.0版本，目标是先对标GPT-3.5，再追赶最新的GPT-4 Turbo。去年的节奏又快又密，基本上两三个月就有一波产品发布。要知道，讯飞以前可是差不多一年才发一次货，这个转变不可谓不大。

刘聪说，那时候的讯飞，扮演的是“追赶者”的角色：摸索大模型训练的各种经验，比如数据怎么处理、scaling law是否符合预期，同时对标国际领先模型，也得盯着落地场景。当然了，国产化工作也要往前推。去年整体节奏，刘聪觉得做得好，关键是计划提前到位——大家能感受到每个大版本之间的变化。

但今年，导向完全不同了。

“年初，我们对大模型已经摸索得比较清楚了。”刘聪表示。现在，他们既关注通用底座大模型，也在琢磨怎么提升小模型的能力和效果。大模型与小模型并行发展，已是行业大势。至于选大还是选小，全看场景需要——如果只泛泛地说“小模型和大模型差距不大”，那纯粹是胡说。

举个例子：写文案、写代码这类一般任务，中小模型就能搞定。中等任务涉及行业知识库和深度内容；高难度任务像复杂推理、数学推理，目前大模型都未必能解决，更别说小模型了。讯飞一直强调“大小模型时代”，但并不是不再关注大模型了。核心原理是：先找到大模型的天花板，再优化小模型——小模型的进步，离不开大模型的发展。

另外，研究院更重要的任务，是围绕“N”中的刚需场景把大模型用透。所以，深入解决系统化问题变得关键。而在众多基础能力中，讯飞是有选择地进行研发的。比如通用任务里，他们最看重的能力之一是数学——数学能力跟推理结合，是大模型聪明的表现。

不过，跟有些公司不同，讯飞没有专门的文生图产品，它是在星火统一入口里用的。刘聪说得直白：“文生图优先级低，甚至不专门做文生视频。虽然跟视频关系不大，但我们会做虚拟人、加强语音能力——语音交互必须做好。”在他看来，大模型底座是向多模态拓展的，讯飞的多模态能力要逐步提高，但没必要在业务关联度低、资源投入过大的方面硬撑。在多模态中，他的重点放在了OCR上，“确保OCR做到最好，这跟实际工作紧密相关。”

所以，今年讯飞的重点还是大模型通用能力，但不会样样争第一。重要方向，比如交互能力，才是主攻点。

应用，选择更加熟悉的方向

讯飞研究院的研发工作，与业务深度绑定。研发前，先跟业务部门达成共识：某个功能达到什么程度、完成客观技术指标后能带来什么用户价值。从算法研发、工程引擎、服务平台、资源部门，再到产品研发，整个过程要一起对齐——无论发布产品、迭代，还是创新研发，都是这么个流程。

外界觉得讯飞是少数能真正把技术落地的企业。刘聪认为，核心原因是他们更深入场景。“找PMF之所以准，是因为过去对行业场景和技术的积累。我们坚持阶梯原则，了解大模型在哪个节点可以适配、哪个场景能发挥价值。”当然，讯飞也有深厚的场景资源和用户基础。

拿学习机来说，讯飞过去十几年都在学校里跟老师打磨，持续了解中国教育政策和趋势——老师教学环境什么样、不同年龄段孩子有没有时间额外学习？光靠想象和拍脑袋，很难定义出来。教育行业讲究因材施教，不是图文技术那么简单。

在已积累的行业优势基础上搞大模型，是大多数成熟公司风险较低的策略。“自我造血很重要，所以我们更关注熟悉的方向，比如教育、医疗、办公、汽车、金融。”刘聪说。

什么时候完成应用，跟大模型发展阶段有关。围绕刚需场景，什么技术能支撑、支撑度如何等，都得考虑。比如技术阅卷，以前就是判断填空、选择题，后来扩展到解答题、全学科阅卷——要求越来越高。有了大模型，作文批改比之前做得更好了。

讯飞业务里，硬件不可忽略。比如学习机、批阅机——每个行业都有软硬件差异。学习机不断加软件功能，提升硬件附加值；硬件模式又反哺软件，比如翻译机、办公本都有大模型应用来升级体验，不光是简单的API连接，而是形成了适合硬件场景的独特功能。

对外服务中，刘聪观察到，大模型应用范围逐渐变大——金融这类场景已向央国企拓展。“对企业来说，产品价值最重要的是能否降本增效。”他说。在B端服务中，讯飞发现算力统一难、数据管理难等问题；此外，很多企业是私有化部署，对用户的场景并不清楚。为此，讯飞通过智能体平台这类服务来解决。

“N的逻辑必须落地。现在阶段跟去年不同——去年1+N有些冗余，需要梳理。今年把主要N梳理清楚后，1和N的协同变得更系统。”刘聪总结了两点经验：

第一，不必专门针对“N”，可以合入“1”的能力里。一个场景下的常用能力能满足，或者在“1”基础上做某个智能体就够——合入就成，这是减少重复开发的逻辑。

第二，统一模型接口和数据接口。这里的N可能由业务线主导，有的是研究院主导。但公司内部每个业务数据标注体系如果不同，合并汇总到主模型就困难。完成模型接口后，需要标注数据、SFT数据和强化学习数据，形成技术体系。在这个框架下，用户可以找专家标注，优化流程，也能把N的数据回流到数据库。