上海金融与发展实验室主任曾刚：避免大模型幻觉，关键环节还需人机协作

摘要： 2024年政府工作报告提出，要大力推进现代化产业体系建设，加快发展新质生产力。人工智能+被首次写入政府工作报告。3月2...

2024年政府工作报告提出，要大力推进现代化产业体系建设，加快发展新质生产力。人工智能+被首次写入政府工作报告。

3月28日，由马上消费联合中国科学技术出版社、金融界共同举办的大模型驱动下的金融新质生产力创新论坛暨全国首部《金融大模型》著作发布活动在京举行。

在主题分享环节，上海金融与发展实验室主任曾刚表示，传统业务发展模式受到越来越大的挑战，金融行业需要用大模型提升效率、适应客户需求变化和拓展新的服务空间及场景。会后，曾刚就金融机构在AI应用中如何避免大模型幻觉这一话题接受了《时代周刊》记者采访。

传统业务发展模式受到挑战，行业需要用大模型提升效率

在主题分享环节，上海金融与发展实验室主任曾刚表示，AI的发展会去除知识中介。生成式人工智能可以对一些没有原创性的知识中介进行替代，很多看似有门槛的专业技术会被淘汰，我们个人对自身的定位也会发生重大变化。

曾刚指出，从金融领域来看，行业面临着几大问题。一是资产获取难度越来越大，随着传统客户竞争越来越激烈，新客户发掘越来越难，信贷投放面临压力，传统服务模式可能无法触及客户；二是资产质量发生变化，一些过剩的行业正在经历调整，这个过程对风险防控的要求不断提升；三是息差的收窄，2023四季度商业银行净息差为1.69%，一些银行是低于这一水平的；四是资本补充有一定困境。

他强调，传统业务发展模式受到越来越大的挑战，行业需要用大模型去提升效率、适应客户需求变化、拓展新的服务空间及场景。

避免大模型幻觉，关键环节还需人机协作

会后，曾刚在接受《时代周刊》记者采访时表示，既要看到大模型的潜力，又要关注可能的风险。一方面，要依靠技术的不断改进纠正可能发生的大模型幻觉；另一方面，可以通过人机结合，将大模型圈定在助手层面。

NBD：金融是一个严谨的领域，要在金融业务中进行AI应用，如何避免大模型幻觉？

曾刚：现在我们确实对风险审慎经营保持极大关注。首先，机构层面要审慎经营、避免（使用）过度的风险。在使用（AI的）过程中，对客户、消费者的保护要做到位，避免对客户利益的损伤。

金融大模型应用中，可能会在两个层面上产生风险。一是在交易过程中，如果使用大模型时出现大模型幻觉，可能会导致一些潜在的风险，对机构造成伤害；二是在业务过程中，对客户造成伤害。

因此要求金融机构，从研发到应用大模型的过程中，均高度关注可能出现的大模型幻觉。既要看到大模型的潜力，又要关注可能的风险。

一方面，依靠技术的不断改进，通过各种方法纠正可能的幻觉，但这需要一个过程；另一方面，在实践当中，实现人机结合，不要完全把任务抛给大模型。大模型可以替代一部分工作，但在关键环节还需人工进行校正、核验。通过人机结合，把大模型圈定在人的助手层面上，而不是让大模型完全替代人的工作。既能保证效率提高，同时也能避免大模型幻觉。

其次，监管层面上对科技应用也要提出规范要求，避免可能的风险。目前，科技监管越来越规范，通过监管层面引导机构完善治理架构、工作流程，以确保把发展过程中潜在的风险控制在可接受范围之内。