AIGC 如何改变金融业?不是所有智能化问题都要用大模型解决
和所有新技术诞生之初一样,随着 AIGC 持续引发关注,各行各业都在寻找自身与 AIGC 结合的可能性。金融行业也不例外,丰富的场景、海量的数据、相对完善的技术实力...... 这些都是 AIGC 技术应用落地的温润土壤。
同样和所有新技术的发展一样,从技术出现到技术落地,需要跨越一定的周期,在这期间,市场会由感性的狂热慢慢转入理性的思考。AIGC 究竟适合在哪些场景应用?成本投入和效益产出如何做好平衡?商业落地的瓶颈又如何突破?
在 InfoQ《超级连麦. 数智大脑》直播中,太保寿险首席架构师周建华、富滇银行数字金融中心副主任李涛、华盛证券技术 VP 黄曙光围绕这些问题进行了探讨。大家认为,讨论 AIGC 技术应用,必须回归到业务目标和价值本身,并不是所有智能化问题都需要用到 AIGC 和大模型,很多时候,利用现有的智能化技术就能解决。
以下是分享全文(经 InfoQ 进行不改变原意的编辑整理):
周建华:AIGC 在落地应用方面,有很多可能性。从我的角度来看,要讨论 AIGC 的能力,需要回到技术本身,以及技术带来的变革。
具体看 AIGC,它有三个基础能力和三个发展方向:第一,大模型是它的基础,拥有广泛的知识;第二,具备超强理解力;第三,能够自我迭代,根据新的输入不断训练自身模型,无论是在金融还是其他领域,这些基础能力都可以扩展出不同的应用方向。
在应用层,我认为这三个能力可以分别体现在创造性、专业性和标准化方面。就创造性而言,AIGC 可以在营销文案编写、数据分析等领域发挥作用,甚至可以帮助开发人员实现自动化代码编写。
专业性方面,AIGC 可以在运营场景中,对业务规则进行自动化处理,减少安全漏洞的风险。此外,金融领域的技能培训也可以通过 AIGC 来提高,特别是在安全方面,AIGC 可以帮助提升整个团队的技能。
此外,AIGC 的交互能力也非常强大的。它可以作为个人助手、虚拟理财顾问,甚至可以处理客服、条款等复杂的问题。通过 AIGC,许多运营、客户服务、财富规划等工作可以实现自动化,进而提高效率。
黄曙光:我们已经在几个场景中进行了 AIGC 的应用实践。首先,由于证券行业的专业性与其他金融领域有所不同,用户在这里做投资决策时使用自己的资金,要求他们具备更丰富的金融知识,如财务报表理解等等。所以,我们将 AIGC 技术应用分为两类,一类是面向公司内部的应用,另一类是面向客户的应用。
在公司内部,我们利用 AIGC 技术提升工作效率。举例来说,内容部门需要进行诸如股票早评、午评和晚评等信息运营,通过采用 AIGC 技术,就可以大大加快内容生成速度,减少人力投入。
第二个场景针对的是技术支持和内部后勤岗位,我们需要让不同国家的员工能够理解我们的系统和文档,以更好地为客户提供服务。在这里,就可以利用 AIGC 构建辅助功能,帮助员工提升专业技能,特别是在不同语言环境下的技能培训。此外,我们还在尝试将 AIGC 应用于研发团队,以提高整体效率,特别是在一些单一逻辑或场景中,如单元测试。
从客户角度来看,我们希望通过 AIGC 降低用户交易的门槛,帮助用户更好地理解金融产品,辅导他们做出更好的投资决策。我们正在考虑引入“数字人”的概念,帮助客户解读财务报表中涉及的大量专业术语和知识积累。
周建华:首先提一下,关于 AIGC 和大模型的概念,我们需要将分开来讨论。AIGC 的概念在大模型出现之前就已经存在,这是需要澄清的第一点。另一方面,并不是所有智能化问题都需要借助 AIGC 和大模型来解决。很多问题实际上利用现有的智能化技术就能解决。
那么,如何平衡模型训练的开销、效益和效能,这是一个庞大的议题。首先,金融行业的大模型应用基于私有化的训练,这涉及到微调等步骤,必须在私有化环境中进行。所以,涉及两个方面的问题:第一,确保公司能够有足够持续的资源投入,包括 GPU 设备、大模型人才招募等;第二,确保有足够的数据或者能够生产足够高质量的数据进行微调。
其中,私有化模型的微调,在目前阶段不建议大规模投入,因为工程量巨大,微调不是只需要数据和 GPU,微调之后的大模型如何产生对齐的效果,如何能够符合监管合规要求都是非常大的难题。在解决效益问题方面,重要的是回到问题的原点,解决的是什么业务问题,为什么需要大模型才能解决?找到切实可行的应用点之后,然后再进行尝试性的试验。
在过去的智能化应用中,很多公司都因为未能找到业务流程上的痛点,导致创新停滞。解决这个问题并不容易,需要克服诸多门槛。所以,技术应用必须回到目标和业务价值,生产力的提升如何带来生产关系的改变。从目前来看,解决这个问题并没有简单的方法。
李涛:这个问题其实在我们准备进行 AIGC 应用以及制定 POC 时也充分进行了考虑。先谈谈关于开销和效益的问题。我们所在的金融领域正处于迅速发展的阶段,尽管在真正形成完整的应用生态方面还有很长的路要走。然而,从我们数字化转型的角度来看,实践已经逐步证明了其价值。
AIGC 引入确实为数字化转型增添了许多不确定性。我们感受到这种不确定性,是因为在过去的两年里,我们一直在发展前台、中台、后台一体化,但并未涵盖整个私有云的部署。这包括购买服务器、A100 和 V100 等显卡设备。或许在接下来的一年半里,许多银行会通过大型模型的技术超越我们。
从银行的角度来看,的确存在许多监管法规等问题,尤其是关于用户隐私。银行的技术变革往往从内部开始。因此,当我们与阿里、腾讯、华为等公司讨论 POC 时,大家对于开销的问题也并不清楚。与 OpenAI 不同,私有模型的训练不能像按照 token 收费。在国内的大型模型中,必须首先基于金融领域训练一个行业模型,然后再挂接到知识库并进行进一步的训练。这涉及到一定的成本,而且主要问题是,如何明确提示工程师的工作内容,目前并没有清晰的指导。尽管许多人认为这是一个简单的问题,但在实际技术研发中,提示工程师应该做什么还没有明确的方向。
因此,从内部研发、效能提升的角度来看,我们目前会优先使用公有云的能力。我们正在尝试将贷款制度、风控要求等挂接到库中,并进行问题检查和答案。我们的想法是,首先通过辅助人工的方式,然后逐步过渡到人工智能。与目前的规则性职能开销类似,这一过程的成本很难评估,但我们已经建立了强大的算力体系,也有了基本的硬件设施。
在富滇银行的战略中,首要任务是解释清楚。对于像我们这样的小型银行来说,人力资源非常有限,因此我们迫切需要利用远程数字银行等能力来提升服务水平,通过机器人理解客户意图。AIGC 的出现为我们指明了一个方向,并且我们也正在尝试着去实现这些目标。
在实现效益方面,很难有即时的收益。俗话说“飞猪能上天”,但对于金融领域的大型模型,我们仍然不太清楚整只猪是什么样的。这个探索的过程可能会有些疯狂,但实践将告诉我们真相,也许它会成为让我们弯道超车的一个机会。
黄曙光:首先,政策是关键因素,因为金融行业在政策监管方面相当严格,对于新事物的尝试必然会面临不确定性。政策对于商业化落地的态度是重要的,需要不断摸索。像之前提到的,很多同行可能不得不面临私有化的问题。
其次是效果,效果决定了商业化的程度。商业化与演示之间的差异非常明显,如果在演示中成功率达到 90%,但在实际使用中失败了,这显然不行。业务部门面临巨大的业务风险,所以应用的成熟度对商业化落地有影响。
再者是成本。财务部门通常会关注投资回报率(ROI),短期内要达到一定规模才能解决一些问题,所以公司的财务决策会影响商业化的判断。
最后,人才方面的储备也是一个关键因素。
总之,AI 落地存在许多因素,这些因素相互影响,对于不同的企业来说,权衡这些因素会影响其商业化的决策。
周建华:我个人认为,首先,算法方面的人才是必不可少的。但在基础设施建设方面,特别是数字化基础设施,例如大型模型的基建方面,金融行业自己可能并不需要过多涉足,因为门槛相当高。这不仅仅是硬件的问题,还涉及到复杂的工程化和各种问题。我认为这个领域可能只有大公司才有可能完成。
此外,还有两类人才是至关重要的:一类是智能化战略规划人才,他们能够通过对其他领域的成功案例中的借鉴,对企业自身的战略规划做出部署;另一类是智能化应用人才,他们不需要成为顶尖的算法专家,需要的是智能化应用实战能力。
最后,我认为业务方面也需要提升对 AIGC 或大型模型能力的培训,形成对数字化生产力的统一认识。从来没有一个数字化项目是仅靠技术就能成功的,这需要公司级别的战略转型,而技术只是工具之一。
李涛:目前确实很难给出一个明确的答案,即银行在 IT 领域需要什么样的人才。我之前提到了一些当前比较火的趋势,如大规模工程师等,但实际上具体的需求还不清楚。因此,我们需要通过实践来探索,只有在实践中才能了解我们需要什么样的人才。
大模型的发展现在有点类似于当初大数据发展的情况。随着时间的推移,大模型正在逐渐降低应用门槛。就像刚才提到的,我们并不一定需要高级的大模型建模人员,而可以基于现有行业模型进行产品模型的开发。然而,这需要通过探索来确定,也就是在实践过程中了解我们确切需要哪些人才。
正如刚才周老师所说,数字化转型的核心是业务价值,而当我们进入到模型阶段时,核心就变成了用户价值。然而,业务价值和用户价值之间有何区别,这是一个问题,需要深入探讨。
事实上,我最近也一直在思考业务价值驱动和用户价值驱动的问题。尽管我们一厢情愿地触及用户,但实际上我们并不清楚用户真正的需求。我目前更关心的是,如何在接触用户的过程中,真正了解他们的想法和需求。
当前银行业务相当复杂,同质性很高,因此实现数字化转型需要突破壁垒,纯粹的技术“自嗨”是行不通的,必须有业务价值的支撑。在专业人才方面,首先,我们需要明确的业务价值,然后需要既懂业务又懂技术的人才来实现。然而,这样的人才在各个机构中都很紧缺。
黄曙光:我认为在未来的 3-5 年里,我们将迎来大规模应用的时期,我对在各个领域看到 AI 技术的应用充满信心,可能会出现一些杀手级应用,或者是具有重大影响力的应用,它们将逐渐浮出水面。
李涛:我总结两句话:第一,大模型将成为新一代决策支持系统,完整连接理解、思考和行动的链路;第二,我对明年银行的 APP 充满期待,相信它将经历改变,不再保持现有的静态外观,而是朝向一个数字人坐镇其中的状态转变,我希望我们银行能尽快推出这样的产品。
周建华:在未来的发展中,有几个方面可以比较确定:
第一,在营销素材领域,大规模应用会显而易见。金融行业都拥有庞大的线下团队,他们的诉求是需要高质量的营销素材来进行的客户拓展和持续经营。
第二,智能客服方面也会发生巨大的变革。传统的知识库和知识图谱运维成本相对较高,而利用大模型进行智能客服可以降低成本,提高用户满意度。此外,未来智能客服可以借助大模型直接回答问题,类似之前的 ChatGPT 等应用。
第三,私人助理领域也将迎来大规模的应用。这意味着各种角色将有机会通过 copilot 的方式获得个人助理服务。这三个领域的发展比较确定,其他方面可能还需要观望。
这三个领域的共同特点之一是涉及的数据并不是特别私密,不需要核心数据,这为尝试提供了机会,也不一定需要私有化部署。其次,需求非常明确,因此开发过程相对比较容易。
除此之外,还有其他领域可以考虑,比如从开发和技术的角度,一个方面是协助编写代码,金融行业存在大量外包,代码质量不一定很高。另一个方面是解决安全性问题,代码漏洞是一个头疼的问题,可以通过大模型来解决水平越权和垂直越权的问题,这也是我认为能够直接看到价值的两个方面。
关注「InfoQ 数字化经纬」公众号,回复「抽奖」可以参与本周活动,有机会获得定制礼品。
加入数字化读者群进行交流,搜索并添加小助手微信 moment_Kimmy,备注“进群”。
当我想要构建一款 LLM 应用时:关于技术栈、省钱和游戏规则
《行知数字中国数字化转型案例集锦【第二期】》重磅发布,覆盖多个行业,对话一线专家,挖掘企业数字化的实践故事,揭秘数字化时代背景下如何重塑企业组织、技术与人才。扫描下方二维码,关注「InfoQ 数字化经纬」公众号,回复「行知数字中国」即可解锁全部内容。
微信扫码关注该文公众号作者