山证科技总经理分享：AI与大模型在金融领域的创新应用实践

从ChatGPT问世的第一天起，大模型就成了整个行业的热门话题。如果要按行业渗透率排个序，金融领域绝对排在最前面。对于券商这个行业来说，传统业务模式有太多可以吐槽的地方——工作效率低、服务效率不高、服务质量参差不齐，人力成本还居高不下。再加上金融行业本身就是被严格监管的领域，风控和合规的压力如影随形。所以，很多团队都把希望寄托在大模型身上，想借助它来打破这些瓶颈。

具体来说，我们对大模型有以下几个期待。

第一，也是最核心的，是让大模型帮我们实现更智能的信息处理和理解。第二，希望在客户服务场景中，它能支撑更复杂的对话交互，真正读懂客户的需求和利益点。第三，想要它自动生成报告、文件，还能给出个性化投资建议和资产配置方案，辅助用户决策。第四，在中后台业务里，则期待大模型协助管理风险、守住合规底线。

但说实话，经过一年多的深度研究和实际落地，不得不承认，理想和现实之间还有不小的差距。GPT模型的优点很明显，可一遇到真实业务场景，问题就冒出来了——生成的结果不完全符合预期，距离“惊艳”还有距离。于是大家开始讨论：大模型到底是高效的生产工具，还是说它本质上就是个“玩具”？当我们谈论它的潜力和可能性时，这些潜力真的能转化成实际的生产力吗？对这些疑问，我们做了不少思考，也参考了很多专家的分析，慢慢有了些判断。

大模型大致可以分成两类。一是通用大模型，通常由大型科技公司打造，目标是“一个模型解决所有问题”。但问题在于，回答专业性问题时，它很容易给出误导性的回答，和我们的业务场景难以完美对接。因此，对于真实业务落地，我们更希望生态伙伴关注垂直大模型——这才是和行业需求精准匹配的方向。垂直大模型专注于捕捉特定领域的复杂特征和关系，背后有海量的专业语料做支撑，再加上针对性的微调优化。我们希望把大模型嫁接到垂直领域，推动它从“创意工具”真正进化为“生产工具”。回到金融领域，目前跑得最快的垂直大模型是BloombergGPT，依托庞大的金融市场数据，综合表现和用户反馈都排在前列——可惜它不开源。除此之外，FinGPT、FinBERT、聚宝盆等开源模型各有特色，但和BloombergGPT相比，差距还是明显的。

02 山西证券AI与大模型应用实践

了解了金融市场大模型的整体状况，再聊聊山西证券在这条路上的尝试和探索。从2022年11月30日ChatGPT发布，到2023年3月13日，我们内部做了第一次大模型专题汇报——当时就意识到，把大模型落地到证券行业，绝对称得上是一次创新，甚至可能引发生产力变革。随后几个月，团队一直在跟踪、学习、调研。到了八月份，随着通用大模型的开源，百模大战正式打响。这给了我们一个很好的机会：不需要从零搭建垂直大模型，只要站在现有通用大模型的肩膀上，把金融数据“灌”进去就行。正式开工后，我们选择了自身的优势业务作为突破口——山西证券在固收业务上表现不俗，所以先从固定收益领域开始探索大模型，到了十一月，又开启了合规领域的尝试。

重点讲两个案例。第一个是FICC场景。固收债券交易有一个特点：必须双方达成共识才能成交。所以这个市场的主要业务模式仍然是靠声讯和电讯来撮合，尤其以电讯为主。为了提高交易量和服务质量，山西证券推出了AI数字助理（也就是AI固收债券交易机器人）。这个机器人可以自动向客户推送服务信息，同时推送山证自己的报价，从而激发客户的在线交易意愿。在这个过程里，我们发现大模型的引入确实能提升交易效率。核心思路是：让大模型精准判断交易对手的真实意图——对方是想获取信息、做单交易，还是仅仅想了解报价？判断清楚之后，由于合规要求，系统不能直接自动完成交易，而是要把情况实时反馈给本方和对方交易员，由人来完成后续操作。有了大模型介入，整个流程都实现了电子化记录。之前没有大模型的时候，合规审查常常打断流程，导致效率低下。现在，我们希望大模型在确保满足合规要求的前提下，迅速构建起合规屏障，保障系统安全。实际成果是，用户输入某些业务场景的文本信息后，大模型能分析出客户的真实意图，自动给出所需答案——无论是获取服务还是完成交易，都能顺畅支持。技术选型上，我们用的是开源ChatGLM的最新版本，在同等效果下资源占用更合理。

第二个是合规案例。在这项工作启动前，我们内部已经在讨论如何让员工更合规地拓展业务。最终我们建了一个叫“合规宝典”的工具，它本质上是合规数据库和知识库的集合。然后让大模型基于这些知识进行学习训练，基于Langchain和ChatGLM等模型，搭建了一个本地知识库问答应用。员工可以针对业务提问，机器人以对话形式展示答案，而且答案后面带着指针，点击就能溯源到具体的数据来源和法规原文。这种模式大大缩短了员工的检索时间，效率提升很明显。模型方面采用了本地化的ChatGLM2和Embedding，保证答案相对准确；再加上答案可溯源，使用人可以初步判断真伪，避免生成虚假内容，合规部门对此很满意。从两个案例来看，虽然距离理想效果还有一段路要走，但和以前纯人工检索相比，已经有了实质性的改善。

03 AI与大模型问题和思考

最后聊聊关于AI和大模型的一点思考。对于整个金融行业来说，不管是作为大模型的使用方还是合作伙伴，都要面对三个关键要素：算力、模型、数据。这三者像个三角形——模型优化程度越高，对数据和算力的依赖就越小，其他两项也是如此。所以，必须找到算力、数据和模型之间的平衡点。要么像BloombergGPT那样，在数据方向形成独特优势；要么像开源的ChatGLM那样，在模型性能和原创性上多下功夫，同样能站稳脚跟。

这三个要素也牵扯出一个核心问题：大模型的价值到底从哪里来？首先，大模型本身依赖人类反馈，这就让它很容易受到意见领袖的干扰。因此，如何准确识别长尾客群的真实意图，就成了一个需要警惕的环节。保证价值取向涉及方方面面的工作。一个大模型只有性能优秀、同时能妥善解决伦理问题，才有可能在竞争中胜出。归纳起来，垂直大模型要解决五个问题：第一，如何在细分领域做好高智能模型的微调；第二，如何提高问答质量；第三，如何保证知识的持续学习——这又引出第四点，如何做好本地私有化部署。在金融行业，我们通常需要交付本地化产品，但目前大多数垂直大模型落地后并不具备持续学习能力；第五，如何保证企业对大模型的独立性与可控性。以上就是我们在探索大模型过程中的一些心得，以及长期实践下来的经验总结。