“大模型”有本安全生意经

2023-09-13 09:09

近日，专注于Web应用安全的组织OWASP，发布了针对大语言模型的十大安全风险提示，包括提示信息注入、训练数据投毒、供应链漏洞、敏感信息泄露、不安全的插件设计、过度授权等在内的安全风险值得所有AI用户警惕。

在以ChatGPT为代表的这一波AI浪潮兴起之初，关于AI是一柄双刃剑的讨论就不绝于耳。AI“既能帮助好人也能帮助坏人”，它在带来效率提升、体验改善等好处的同时，也引入了更多安全隐患。因此，如何安全、合规、负责任地使用AI、大模型就成了一个关键问题。这也正是在近日结束的以“AI时代，引领智能云安全”主题的亚马逊云科技re:Inforce 2023中国站所讨论的重点话题。

大模型时代，安全依旧要先行

IDC的调研显示，企业组织在数字化转型的过程中，对于网络安全的担忧是最大的。安全是全球最高管理层数字化举措面临的最大障碍。因此，安全也是最高管理层技术投资的关键任务，尤其是云计算市场在全球的快速发展极大地推动了客户对IT安全软件及服务的需求。

亚马逊云科技大中华区解决方案架构部总监代闻

作为有责任、有担当的云服务商，亚马逊云科技希望基于高标准的安全理念，不断提升安全合规的能力及标准。亚马逊云科技大中华区解决方案架构部总监代闻表示：“从AI应用最初的构建开始，我们就要把安全作为企业AI战略发展中的核心环节。但是，从哪里开始？要依靠一个什么样的安全框架呢？这就要求我们不能只是关注AI应用本身，而应该从全栈的角度，理性而全面地审视应用、模型、数据、基础架构等的安全规范、技术策略和平台工具。”

生成式AI应用就像是露出海面的冰山一角，而企业若想在业务中安全地驾驭这项新技术，需必须关注海面之下的冰山。对于生成式AI来说，既要关注数据与模型的安全，因为它们是构建AI应用的关键；同时又要确保应用安全，因为它是实现AI价值的基础和前提；另外，全球合规虽然是老生常谈，但对于AI应用来说也是不可或缺的一环。

确保数据全生命周期的安全

数据贯穿了生成式AI的全生命周期。因此数据的保护也应该是全方位、全覆盖的一个闭环。亚马逊云科技提供了贯穿生成式AI全周期的数据治理，从数据源的获取到数据的存储和查询，再到将数据传输给AI平台进行模型的训练、调优和推理，以及全面实施数据分类和治理。在整个周期中，亚马逊云科技提供了一整套解决方案、产品服务和最佳实践，旨在为生成式AI提供高质量、高可靠、可信的数据支撑。

首先是存储中的数据安全。亚马逊云科技通过实施安全密钥管理、静态数据加密、强制实施访问控制、利用机制限制数据访问等手段，保护存储中的数据。为了保证数据的高质量，亚马逊云科技主要从两个方面切入：一是防止数据泄漏，二是防止数据被篡改。为此，亚马逊云科技推出了敏感数据保护解决方案，以实现对企业敏感数据的自动化发现，并在统一平台管理数据资产。该解决方案的特色在于，允许客户创建数据目录、使用内置或定制数据识别规则定义敏感数据类型，并可利用机器学习、模式匹配等方式自动识别敏感数据，提供可视化面板，从而帮助用户更轻松地对敏感数据进行保护和管理。

代闻特别提到了企业用户已经普遍使用的Amazon KMS基础支持性服务，它基于集中管理密钥的策略，与云上的140多种服务相集成，并且会在不同的国家和地区使用不同的加密算法以保证合规。

其次是传输中的数据安全。亚马逊云科技从实施安全密钥和证书管理、执行传输中加密、自动检测意外数据访问、对网络通信进行身份验证等多个层次对传输中的数据进行有效保护。据代闻介绍，亚马逊云科技通过跨区域之间的数据传输、VPC内部以及VPC之间的传输、迁移上云的过程中以及TLS1.2+AES256在整个基础架构上实现了对应用层的加密和传输保护。

最后是使用中的数据安全。亚马逊云科技通过身份认证、隔离环境、多方协作以及数据共享四个方面，对使用中的数据提供了全面保护。

这里不得不提的是亚马逊云科技的基础运算平台Amazon Nitro，其安全特性已深深嵌入整个虚拟化平台之中。Amazon Nitro提供了对本地存储实例加密到裸金属以及实例间的加密传输的完整支持。这也是最近十年业界硬件虚拟化提升性能和安全性的一个成功缩影。如今，Amazon Nitro的安全性和性能已经遍布亚马逊云科技所有的服务中。

大模型打铁还需自身硬

随着形形色色的大模型的出现，模型训练后进入生产环境的安全防护变得更加重要。就在几个月前，亚马逊云科技针对大模型推出了Amazon Bedrock和多种生成式AI的服务和功能，目的是帮助客户构建和扩展自己的生成式AI应用程序。

Amazon Bedrock接入了基础模型，并提供了一个API，方便用户使用大模型加速生成式AI的应用程序开发，且无须管理底层基础设施。Amazon Bedrock还负责任地与一些精选的伙伴，如AI21 Labs、Anthropic、Stability AI等进行合作。另外，Cohere也出现在了Amazon Bedrock最新的合作伙伴名单中，从而更便于客户更快地找到最合适的、能力最强的基础模型。

“使用组织内部的数据来训练大模型，同时又为大模型做私有拷贝，只提供给客户，不会再与其他任何的大模型共享，而且训练数据只存在于客户的账户里，Amazon Bedrock不会拿任何用户的数据来增进自己的模型。”代闻表示，“这些措施可以确保企业在采用大模型时，对于数据主权、数据保护不会再有后顾之忧。”

另外，Amazon Bedrock还能全面地使用亚马逊云科技提供的安全功能，包括Amazon KMS、Amazon IAM等均可与Amazon Bedrock集成，集成以后可以很好地管理加密、权限控制和所有行为的日志。Amazon Bedrock自身还提供了Amazon Titan大模型供用户使用。Amazon Titan包括两个基础模型：一个是Titan Text，能够执行文本类的任务；另一个是Titan Embeddings，能够执行个性化推荐的任务。

负责任地使用AI

应用安全是实现AI价值的重要保障，它包括两个主要的环节：一是开发流程中的安全，二是运行中的安全。

先来看开发流程中的安全（DevSecOps）。亚马逊云科技基于自身经验，将AI防护应用到软件开发的全生命周期，让开发更便捷、更安全。为此，亚马逊云科技不断增强其AI开发安全能力，推出了Amazon CodeWhisperer服务，这是一个AI编程助手，可以根据开发者指令利用内嵌的基础模型实时生成代码建议，通过内置代码安全扫描功能，能够帮助开发者查找难以检测的漏洞并提出补救建议；另一项新服务是Amazon CodeGuru Security，它通过扫描代码，在代码中寻找漏洞，还能在CI/CD通过人工智能和机器学习的方式自动降低误报率。

再来看运行中的安全。如今，零信任机制已经得到了用户的普遍认可。用户需要对访问大模型的应用进行权限管理，确保只有拥有特定权限的应用，才能访问或者调用大模型中的API。那么，亚马逊云科技是如何帮助客户构建自己的零信任环境的呢？

首先要建立一个可信任的网络通道。Amazon Verified Access可以搭建一套无需VPN的网络验证系统，使用Amazon IAM或客户自己的用户认证系统，完成认证程序。除了对用户的认证之外，Amazon Verified Access还支持自行设置规则。另外，亚马逊云科技最新推出的Amazon Verified Permissions，为用户构建的应用程序提供了细粒度授权和权限管理。用户可以使用该服务管理其应用程序的角色和属性的访问控制。

其次，要实现更好的网络控制。零信任和网络控制并不是二选其一的关系，只有两者相加，才能实现端到端的应用安全，特别是在大模型时代。举例来说，在网络防护方面，Amazon Shield用于防御DDos攻击，Amazon WAF提供防火墙支撑，而Amazon Firewall Manager可以轻松管理防火墙策略。另外在威胁识别方面，Amazon GuardDuty使用了基于人工智能和机器学习的技术，使安全事件的误报率减少50%。它还能够实现初期的检测，并做持续的分析，使用机器学习技术检测所有的威胁，以智能化的手段给予采取行动的建议。

“大语言模型的出现加速了零信任在企业中的落地。”代闻表示，“亚马逊云科技的零信任体系包括身份认证、可信网络、高颗粒度的权限管理和审计乖。零信任与网络控制同样重要，在实践中应该将两者有机地结合，才能确保企业端到端的应用安全。”

“我们一直倡导负责任地使用AI。”代闻表示，“亚马逊云科技致力于开发公平且准确的人工智能和机器学习服务，并为企业客户提供负责任地构建人工智能和机器学习应用程序所需的工具和指导。我们将始终如一地坚守负责任地使用AI的承诺。”

“合规”行天下

随着云计算的全面普及，安全合规运营已经成为一个基本的前提条件。据不完全统计，目前已有130多个国家和地区制定并颁布了数据保护和隐私安全相关的法律法规。随着大模型的兴起，企业业务面临的安全挑战更加严峻。在这种情况下，就更要坚守安全合规运营的底线不能放松。

亚马逊云科技向来重视合规性，已在全球获得了140多个安全标准和合规认证，并将AI技术应用到安全及合规服务中，能够为大规模批量审查提供安全控制，同时利用AI提供一致性判断，以及利用AI/ML技术实现自动审查，从而全面提升合规效率。统计数据显示，亚马逊云科技通过在其自身500多项合规审计控制项中使用AI技术，将审计时间节约了53%。

亚马逊云科技不仅严于律己，而且与伙伴形成了安全合力。比如，亚马逊云科技APN合作伙伴网络提供了数百种行业领先的安全解决方案，能够多层次地保护客户的应用和数据安全。具体来看，在技术方面，亚马逊云科技提供了网络安全、主机安全、应用安全、身份认证、威胁检测和事件分析、数据治理以及安全自动化运维等功能；在咨询方面，提供了合理化方案建议、合规建议以及全面的安全咨询服务和合规服务。

播种就会有收获。在IDC发布的《2023中国公有云托管安全服务能力报告》中，亚马逊云科技是获得满分最多的厂商之一，在“生态建设”评估维度更是唯一获得满分的厂商。

毋庸置疑，大模型的落地需要更加安全、合规的环境。“安全始终是亚马逊云科技的首要任务，也是我们的首要优先级。”代闻表示，“我们愿与伙伴、客户携手，共同构建一个安全、智能的未来。

往/期/回/顾

云安全，亚马逊云科技“真有一套”

亚马逊云科技把Serverless的应用门槛降下来了

亚马逊云科技今天正在做的，或许就是明天你要做的

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章