BCG联手《MIT斯隆管理评论》：负责任AI迫在眉睫，70%以上的组织正在发力
BCG和《MIT斯隆管理评论》最新的联合研究，审视了内部和外部所开发的AI工具可能带来的风险
53%的企业完全依赖第三方AI工具， 让自身暴露于风险之中
CEO亲自参与负责任AI工作的企业，其商业效益比CEO较少参与的企业高出58%
生成式AI（GenAI）的迅速兴起使AI格局在过去一年内产生了巨大变化，组织更难对技术负起责任，而且为了跟上技术发展的步伐，也在给负责任AI（RAI）项目施加压力。根据BCG和《MIT斯隆管理评论》的最新研究，超过半数的组织（53%）完全依赖第三方AI工具，而非自行设计或开发，AI相关的故障中高达55%源自第三方AI工具。
这份题为《随着第三方AI工具激增，打造强大的RAI计划正当其时》（Building Robust RAI Programs as Third-Party AI Tools Proliferate）的报告基于一份全球调研，覆盖来自87个国家、59个行业、年收入1亿美元以上的企业的1,240名受访者。
自我们去年发布报告以来，无论是从技术还是监管角度，AI的格局都发生了巨大的变化。事实上，随着生成式AI工具突如其来的迅速普及，AI已成为茶余饭后热议的话题。然而，许多基本情况仍然没有改变。今年，我们的研究再次表明，组织迫切需要通过投入和拓展RAI计划承担起相应的责任，以应对日益增多的AI用例和风险。
--Elizabeth M. Renieris
《MIT斯隆管理评论》客座编辑、
报告作者之一
所有企业需齐心协力做出改变
与去年同期相比，我们调查样本中的RAI成熟企业从16%增加到29%1。尽管有所进步，但仍有71%的组织需继续努力。随着第三方AI工具带来重大风险隐患，大多数组织现在应该加倍努力践行RAI。
1由于每年受访的个体不同，因此2023年用于构建成熟度指数的样本也不同于2022年。
对第三方AI的依赖比比皆是
绝大多数的受访组织（78%）高度依赖第三方AI，将自身暴露在诸多风险之中，包括声誉受损、客户信任丧失、财务损失、监管处罚、合规挑战和诉讼等。尽管如此，采用第三方AI工具的组织中仍有五分之一完全没有做过风险评估。
采用多种途径和方法来评估第三方工具是降低风险的有效策略。采用七种不同方法进行评估的组织，发现失误的可能性是仅使用三种方法的组织的两倍以上（分别是51%和24%）。这些方法包括要求遵守RAI原则的契约，供应商预认证和审核，内部产品级别的审查以及遵守相关监管要求和行业标准。
快速演变的监管格局
监管格局的演变速度几乎与AI的发展一样快，专门为AI设定的新法规层出不穷。约有一半的受访组织（51%）表示，他们在使用AI时也需要遵循非AI特定法规，大部分金融服务、保险、医疗保健和公共部门的组织亦是如此。受此类法规约束的组织成为RAI成熟企业的可能性，比不受此类法规约束的组织高出13%。他们还称，与不受相同监管压力的同行相比，他们检测到的AI故障更少（分别为32%和38%）。
CEO的参与是组织践行RAI决心的关键
CEO在承诺负责任地使用AI以及维持必要投入方面发挥着关键作用。无论是不是RAI成熟企业，CEO亲自参与负责任AI工作（比如参与RAI相关的招聘决策、产品级的讨论或设定与RAI绑定的绩效目标）的企业，其商业效益比CEO较少参与的企业高出58%。此外，有CEO直接参与RAI的企业，比没有的企业更有可能投资RAI（分别是39%和22%）。
针对AI格局变化的五大建议
本报告为企业提供了五个建议，帮助他们快速采用AI并应对与之相联的内在风险：
快速启动成熟的RAI计划
正确评估第三方工具
采取行动，为新发布的法规做好准备
让CEO参与RAI计划，最大限度提高成功的几率
加倍投资RAI
现在是组织加倍投资强大的RAI计划的时候了。虽然技术的发展迭代可能超过RAI计划的范畴，但解决方案是加大对RAI的投入力度，而不是收回。组织需要在提供业务价值和管理风险的努力中发挥领导作用，确保资源投入。
--Steven Mills
BCG首席AI道德官、报告作者之一
在这方面， CEO们可以在打造组织文化方面发挥重要作用，大力支持管理者、员工、供应商以及其他合作伙伴在RAI方面的努力，包括愿意寻找并识别潜在的AI故障。CEO们应该自上开始启动RAI项目并确定优先级。考虑到技术的快速发展，他们需要采取积极措施，部署AI和AIGC项目，确保符合要求规范的同时，与公司的价值观和使命保持一致。
--魏杰鸿
（Jeff Walters）
BCG X中国区负责人
推荐阅读
更多精彩敬请关注BCG视频号
扫描左侧二维码
关注BCG数智港
快来关注我们吧
声明
原创内容的最终解释权以及版权归波士顿咨询公司所有。如需转载文章，请在信息栏输入“转载”，获取转载须知。
微信扫码关注该文公众号作者