亚马逊云科技突破生成式AI“最后三公里”

2024-04-15 10:04

“云+大模型”，也要成标配了吗？

前有ChatGPT之于Azure，后有阿里云宣称中国一半的大模型企业都跑在阿里云上。近日，当亚马逊宣布已完成对Anthropic的40亿美元投资，“Anthropic+亚马逊云科技”又成了一对黄金搭档。

这个大模型不简单

根据双方的战略合作协议，Anthropic将亚马逊云科技作为首选云服务提供商，以承担包括安全性研究及未来基础模型开发在内的关键任务。从Anthropic的角度，将利用Amazon Trainium及Inferentia芯片构建、训练及部署其未来的基础模型，并承诺为全球亚马逊云科技的客户提供在Amazon Bedrock上对其未来基础模型的长期访问权限。

Anthropic最新的Claude 3系列模型展现出领先的智能、几乎媲美人类的反应速度、更高的可操控性和精确度，以及革新的视觉能力。行业基准测试表明，该系列中最智能的模型Claude 3 Opus已成为新的标准，在推理、数学和编码领域超越了当今可用的其他模型，包括OpenAI的GPT-4。

Claude 3系列模型包含三个模型：具有几乎即时响应能力且最紧凑的 Claude 3 Haiku；在技能与速度之间达到理想平衡的Claude 3 Sonnet；为处理高度复杂任务设计的最智能的模型 Claude 3 Opus。用户可以根据自己的商业需求，从中选择最合适的智能、速度和价格的组合。

Claude 3的优势非常明显。比如，它在数学问题、编程练习和科学推理等标准评估中超越了所有现有模型；具备多模态能力，速度优于其他多模态模型；能够有效降低幻觉，提升回答准确率；可以提供200K超长上下文准确召回，针对某些特殊场景，开放支持1M token的上下文窗口等。

当前，Claude 3的主要应用场景包括内容续写、代码辅助、电商商品描述撰写、长文本知识召回总结等。

从亚马逊云科技的角度，Amazon Bedrock是其推出的一项全托管服务，使用户能够安全轻松地访问行业领先的高性能基础模型，以及一系列备受关注的功能，包括RAG检索增强生成、Guardrails安全防护功能、模型评估和Agent代理等，旨在帮助客户构建功能全面、性价比高、响应迅速的生成式AI应用。从3月开始，Amazon Bedrock已经可以提供对Claude 3系列模型的访问。

提供对业内领先的大模型的全方位支持，是亚马逊云科技的一项基本策略。Anthropic不是第一个，也不会是最后一个。Anthropic的加入，就像是又一个加速引擎，让亚马逊云科技可以更快更好地将生成式AI技术推广至全球各地。

如果将大模型比作水，那么亚马逊云科技就是“送水人”，其战略、解决方案及服务、生态，都是为了让生成式AI能够尽快地在行业场景中开花、结果。正如亚马逊云科技大中华区产品部总经理陈晓建所说：“尽管大模型非常重要，但仅仅靠大模型来赋能生产是远远不够的，企业还需要一系列周边的能力来正确、合理、安全、高效地使用大模型。这就是亚马逊云科技一系列产品所提供的价值所在。”

生成式AI落地全面就绪

由于各行各业的场景千变万化，即使大模型本身的技术能力再强，也不可能有一个基础模型，能够放之四海皆准，适用于所有业务场景。作为一个开放的平台，Amazon Bedrock提供了各种领先的基础模型供客户选择，其中既有知名的开源模型，如Stable Diffusion XL、Llama、Mistral 7B和Mixtral 8*7B，也有Anthropic Claude 3、AI21labs Jurassic、Cohere Command、Amazon Titan等非开源模型。

Amazon Bedrock只是亚马逊云科技在生成式AI领域的一个支柱。从更广泛、更通用的支撑能力来看，亚马逊云科技为生成式AI的用户提供了完整的三层技术栈：从最底层的高性能基础设施，到中间层最广泛的基础模型选择，再到最上层的应用生成式AI技术的开箱即用的云服务。

具体来看，在最底层的算力基础设施层，亚马逊云科技为客户提供了对最强劲算力的支持，包括NVIDIA G200芯片，以及亚马逊云科技自研的芯片，如用于训练的第二代Amazon Trainium芯片、用于推理的第二代Amazon Inferentia芯片，以及用于训练和推理的平台Amazon Sagemaker等。陈晓建强调说，除了芯片的持续迭代升级以外，亚马逊云科技的优势还体现在，它拥有一整套用于大规模并行训练的基础架构UltralClusters，可以支持10万+最新的Amazon Trainium2用于并行训练。总之在算力基础架构方面，亚马逊云科技是可以让用户放心的。

中间一层，就是随着生成式AI衍生出来的全新产品，Amazon Bedrock就其中的典型代表，它可以支持多种大模型。“从模型能力到真正的运营生产之间，企业还需要增加很多辅助能力。Amazon Bedrock提供了一系列广泛的能力，例如预置吞吐量功能以保障业务拥有稳定独享的底层资源，模型微调能够将企业自身的业务数据与大模型快速结合，以及能够全面监管大模型的Guardrails功能等。”陈晓建表示，“这些工程化的能力是企业在将生成式AI用于生产环境时所必需的。”

Amazon Bedrock提供了对全球领先基础模型的接入，并提供知识库、代理、Guardrails等各种便捷工具，同时还可以确保数据隐私和安全。陈晓建表示，如今Amazon Bedrock已经成了企业构建和应用生成式AI的首选。

那么，Amazon Bedrock究竟赢在哪里呢？让我们逐一揭晓。

首先，强大的知识库功能。Knowledge Bases for Amazon Bedrock为基础模型和Agent提供来自企业私人数据源的上下文信息，用于检索增强生成(RAG)，以提供更相关、更准确和更个性化的响应。从Amazon Bedrock知识库检索到的所有信息均附有引文，可进一步提高透明度，并最大限度地减少幻觉。

其次，进阶的代理功能，Agents for Amazon Bedrock使生成式AI应用能够使用自然语言来执行多步骤的业务任务。代理功能会使用基础模型的推理功能分解问题，并通过分步骤的方式解决用户提出的问题。Agent会利用推理功能将这个需求分解并逐步执行。Agent还能够访问组织的企业系统、流程、知识库以及一些基础构建模块，进而制定出解决问题的逻辑步骤，确定调用哪些API以及调用时机，从而确保事务按照正确顺序完成。如果需要用户输入特定信息，Agent还会主动询问，用自然语言获取所需的附加细节。最重要的是，Agent始终利用最新的信息，并在保证安全与隐私的前提下为用户提供解决方案。

再次，切实践行负责任的AI。Guardrails for Amazon Bedrock允许客户根据应用程序的特定要求和负责任的AI策略来管理用户体验，同时构建适合其应用场景且符合安全和隐私要求的生成式AI应用程序，为Amazon Bedrock上的多种基础模型和代理提供保护；根据用户设置的负责任AI策略来配置有害内容过滤器；通过简短的自然语言描述来定义并拒绝生成被禁止的话题；能够在基础模型的回复结果中屏幕个人隐私数据。

最后，确保合规。Amazon Bedrock是基于全面的数据保护和隐私保护构建的，传输中的数据和静态数据都会被加密，而且数据不会与模型提供者共享，也不会用于改进基础模型。Amazon Bedrock提供全面的监控和日志记录功能，为治理和审计需求提供支持。Amazon Bedrock也符合包括ISO、SOC、CSA STAR 2级在内的常见合规标准，并具有HIPAA资格。客户可以在遵循GDPR要求的情况下使用Amazon Bedrock。

最上一层是与应用进行很好的结合。例如，Amazon Q与亚马逊云科技自身的BI产品Amazon QuickSight、智能客服产品Amazon Connect、面向编程开发人员的平台Amazon CodeWhisperer等都实现了非常有效的结合。

陈晓建表示，用户可以根据自己的实际环境，以及具体的业务需求，选择亚马逊云科技不同层级的产品来进行对接，从而达到以生成式AI赋能业务创新与发展的目的。

携手共进事半功倍

亚马逊云科技的三层技术栈，为生成式AI的落地提供了技术上的强有力的支撑，但这对于亚马逊云科技来说还远远不够，因为亚马逊云科技致力于彻底解决生成式AI落地“最后三公里”的问题，降低生成式AI的应用门槛。

亚马逊云科技的解决方案架构师可以和用户一起寻找场景和解决方案；其产品技术专家可以根据用户的需求，匹配最合适的产品及服务；亚马逊云科技的人工智能实验室可以帮助客户打磨算法；专业服务团队可以提供专业的从咨询到实施的全流程服务；培训与认证部门可以为用户提供专业的机器学习培训等。完善的数据基础、强大的算力和工具，再加上专业的本地化团队的辅助，这才是亚马逊云科技努力要实现的将用户“扶上马并送一程”，为各行各业的用户采用生成式AI保驾护航。

对于行业用户怎样才能用好大模型，陈晓建给出了中肯的建议：首先要选择一个合适的场景，可以采用循序渐进、从简单到复杂的思路，从最容易落地的场景切入；其次，选择合适的工具和平台；再次，用户不必从头开始，完全依靠自己的力量生成大模型，可以与像亚马逊云科技这样拥有全栈技术能力的服务商合作，这样会事半功倍；最后，在生成式AI领域，很多用户都是“摸着石头过河”，所以要擅于借助外部力量、专业服务团队，共同攻坚克难，在实践中学习和提升。

生成式AI，任重而道远。

往/期/回/顾

从科技赋能到价值引领，东莞证券可进化的信创云建设启示录 “智算”雄起 | 智算操作系统要“顶天立地”

云和AI“一哥”再携手，亚马逊云科技与英伟达共攀云上AI算力新高峰

一手AI，一手云，亚马逊云科技继续重塑之旅

为生成式AI铺路筑基亚马逊云科技用了哪些招儿？

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章

​亚马逊云科技突破生成式AI“最后三公里”

亚马逊云科技突破生成式AI“最后三公里”