银行业生成式AI应用报告(2023)

2023-08-04 04:08

自2022年底chatGPT3.5发布起，生成式AI相关话题热度持续走高。触手可及的生成式AI技术真切影响着各个行业，以及每一个人的生活与工作。加上生成式AI无论是技术本身还是应用演进的速度均十分惊人，更让整个社会愈发强烈地感受到其深刻影响。

银行业深刻感受到了这波生成式AI浪潮的冲击，各银行纷纷在各种领域、场景试水生成式AI的应用。然而，多重因素作用下，在银行体系内规模化应用生成式AI仍面临巨大挑战。

生成式AI技术已不只停留于概念阶段，如何借力新技术赋能银行转型已成为行业必须深入思考的命题。随着该技术的逐步成熟完善，其应用可拓展到银行业全价值链，充分发挥其‘对话交流’和‘生成创造’能力，替代人、赋能人，降本增效，释放生产力，为银行业带来巨大变革。

当前市场通用的生成式AI模型具备普适、跨行业通用、模糊语言的特性，而这难以满足银行业对金融专业能力、精准性方面的高要求。因此，如何让生成式AI模型‘说专业的话’、‘说真话’就成为了银行业规模化应用生成式AI的两个关键挑战。此外，银行等金融机构对数据安全的高要求也意味着模型的精调和应用都很有可能需在本地进行。

对此，为推动银行业借力生成式AI技术加速数字化转型、构建差异化竞争力，BCG发布的《银行业生成式AI应用报告（2023）》聚焦银行业在推动生成式AI过程中关注的四大问题：

生成式AI技术与传统AI技术到底有何不同？
生成式AI如何为银行经营管理带来新的价值释放场景，如何推动场景快速落地？
银行需要为规模化应用做怎样的能力准备？
银行如何快速行动，由点及面推动生成式AI落地？

变革已至：理解生成式AI的能力

相较传统AI，生成式AI在“对话”与“创造”两类能力上实现了根本性的突破：就"对话"能力而言，传统AI在回答问题时往往缺乏对上下文的理解，导致答案相关性较低，表达机械化；而生成式AI能够理解更长的上下文，并进行拟人化的思考和回答，与人类的对话沟通也更自然；在“创造”能力方面，传统AI只能按照预设任务（如分类、数值预测）输出答案；而现在，生成式AI能够自动生成自洽的图形、文本甚至代码，具备优秀的内容创作能力。

生成式AI展现出的突破性对话和创造能力，离不开科学算法的突破、工程算力的进步。科学算法突破方面，全新架构模型、基于Attention Layer的Transformer技术，能更好地提取“全局”特征，能高效捕捉海量语料中一个个词之间的关系，或者海量图片中一个个像素之间的关系，使得大量的知识（本质上表现为词语之间的关系）能被封装在训练好的模型中；工程算力进步方面，由于基础设施的进步（高算力芯片、高速网络），模型的训练规模较之前深度学习阶段有了数量级的显著跃升，使大模型体现出的能力远超以前，同时大模型足够大到能训练和封装几乎全科领域的知识，一个大模型可以在结合精调后运用到多个完全不同的场景。

大有可为：银行业应用场景丰富，价值释放可期

生成式AI在银行业的应用，从价值创造逻辑上可分为两大类：

替代人。生成式AI可以替代人，开展大量重复性较高、简单基础的任务，如处理文本的要素提取、处理进件、识别异常项、生成基础数据分析、生成标准化内容等。这能够释放运营类人力资源，实现降本增效；
赋能人。利用生成式AI的“对话”和“创造”能力，可让AI成为助手，有效放大关键节点的“人”的产能，尤其是客户经理、财富顾问、产品经理、投研经理、信审经理、市场营销人员、编程开发人员等角色，赋能人不仅仅是体现在专业内容的形成上，还可能体现在基础管理环节。

生成式AI在银行业的应用场景可贯穿前中后台各个环节，包括市场和销售、渠道和运营、产品开发、投顾服务、客户服务以及风险合规等方面。银行的每条业务线、每个职能，都有可能找到生成式AI的应用场景。

若能在银行业实现规模化应用，有望带来可观的降本增效收益。BCG曾以一家拥有约两万名员工的区域性国际银行为例，初步梳理了该银行前中后台相关部门应用生成式AI的潜力和效益，预计在首年即可为该银行节省约1.5亿美元的成本，占整体薪酬总包的7%左右。

落地可行：局部速赢已有切实路径，规模化应用还需体系性规划

银行有扎实的数字化基础，有完备的技术能力，有多元丰富的数据，具备由点到面推进生成式AI应用的条件。银行推进生成式AI落地过程中，需重点关注四大举措：

在探索初期，优选生成式AI应用场景，平衡收益和风险，与传统AI充分结合；
在具体应用过程中，巧用方法，利用嵌入、提示词设计、微调三大抓手，让AI生成的答案更专业、实事求是；
在生成式技术能力体系建设上，夯实技术基础，合理部署、多维选型、全栈升级；
在重塑体系规模化应用过程中，遵循10/20/70原则，即10%是模型，20%是整体IT能力升级，70%是业务与组织的转型，而后两个因素更为关键。

生成式AI在银行业规模化应用的落地，依照‘10/20/70’法则，70%是业务与组织的转型。银行需尽早对70%的部分形成清晰的规划：在管理流程方面，构建负责任AI体系、完善配套管理机制、制定员工生成式AI操作行为规范等；在组织和人才长期调整方面，增加质量管理岗员工人才占比、强化员工问题定义能力及解决能力的综合要求、重新设计培训级晋升路径标准等。

在应用探索初期，各家银行通常优选少量场景先行试水、循序渐进。在选择场景时，要平衡考量收益潜力、风险、实施难度。同时，最早落地的试点场景，还需考虑其能否在组织准备度诊断、方法构建、信心构建等角度形成示范效应。选择场景时，不能只是简单定位“业务环节”，粗放地决定到底是应用在财富管理的营销环节，还是应用在公司金融的授信审批环节。对场景的细分和选择，需要具体到机器的角色和需解决的问题类型。场景定位时通常需面对权衡选择，应重点关注三大问题：归纳、分析还是决策？面客还是对内？对目前已在应用的传统AI，替代还是结合？

在具体应用过程中，银行需有正确的具体方法来应对让生成式AI“说真话”、“说专业的话”两大挑战，确保答案质量可靠。如何让模型产生的答案更能契合银行自身的需求？有三个关键抓手：

利用嵌入（Embedding），使大模型能基于给定的数据库来生成答案；
利用强有力的提示词设计，使模型能给出契合专业性要求的准确答案；
直接对开源大模型进行指令精调。

在生成式技术能力体系建设上，银行若要在全行前中后台都规模化应用大模型，多项软硬件能力也需相应升级。

首先是算力。即使不从0到1训练大模型，只是进行精调，也需要一定的高算力资源。另外，若未来有成百上千个AI应用同时在组织内运行，对硬件基础设施的算力和稳定性也提出了更高要求。

其次是模型。从规模化应用来考量，未来银行需要引入和维护一个模型库，作为应用方，在现阶段开展试水时，需对大模型的选择保持开放态度，在以一家大模型为主的基础上，也仍然积极尝试市场上其他领先的开源模型，持续寻找场景与模型之间的最佳适配组合；进而，需围绕规模化应用开发，构建其它多项能力。

在重塑体系规模化应用过程中，需要认识到生成式AI在银行业规模化应用的落地，是一个体系性工程，其成功与否会遵循“10/20/70”法则，即10%是模型，20%是整体IT能力升级，70%是业务与组织的转型。

快速行动：银行需由点及面、敏捷推进

对于生成式AI的探索，银行需要有长远的眼光，开展体系化的顶层规划，需要联合相关业务和科技部门协同努力，推动规模化应用的分步落地。具体而言，可分三个阶段，由点及面、敏捷推进：

第一阶段，少量场景的概念验证和局部落地：选择重点应用场景，快速完成概念验证（POC）、构建最小可行产品（MVP）。利用这一过程，诊断技术、业务两方面的准备度，梳理出部署模式、技术选型、质量和风险管理的框架标准、配套的组织及资源投入要求。
第二阶段，开展全场景盘点+体系规划：基于局部应用的效果和经验，形成规模化实施的顶层规划，包括：盘点银行所有潜在应用场景，基于商业价值和可行性高低，排布场景的落地先后优先级，形成投入产出量化评估方案；形成技术架构整体升级的细化方案设计；形成质量和风险管理的体系化方案；形成业务和组织能力转型的方案设计；形成能力建设关键举措及路线图。
第三阶段，规模化应用落地+体系能力固化：完成技术和工具基础设施的搭建；依次分批推进应用场景落地；围绕业务、技术端不断积累应用经验；持续在落地中迭代问题，并将相关能力固化至技术架构、业务流程和管理规范中。