银行应用生成式AI，大模型如何选？

1

算力准备。即使不从0到1训练大模型，只是进行精调，也需要相对较高的算力资源；若规模化应用，需在基础算力和稳定性上做好充分准备，特别是GPU。

2

模型选择。面临商用模型和开源模型两个路径的选择，两大路径各有优势，需充分权衡利弊；大模型不一定越“大”越好，训练语料、训练方法、训练时长等都很重要，业务团队的输入也非常重要；选择模型可以从准确性、置信度、鲁棒性、公平性、毒性、效率等多个维度进行验证。

3

配套应用开发能力的构建。一是面向业务团队搭建基于自然语言交互、支持“托拉拽”的开发工具；二是针对“提示词设计”构建常态化的专项研发管理机制；三是强化模型测试、输出审查过滤、对模型表现进行持续监控等风险控制能力。