腾讯云发布多个行业大模型解决方案，提供MaaS服务｜最前线

公众号新闻

2023-06-20 08:06

腾讯云已提供面向10个行业的50多个大模型解决方案。

文｜杨逍

编辑｜邓咏仪苏建勋

来源｜智能涌现（ID：AIEmergence）

封面来源｜IC photo

6月19日，腾讯云正式公布了行业大模型研发进展，为客户提供MaaS（Model-as-a-Service）一站式服务，帮助客户生成专属大模型和提供相关应用。

通用大模型近期备受关注，这是腾讯首次公布大模型相关进展。而从发布会来看，腾讯选择将重点放在AI和行业相结合上，希望解决各个行业存在的具体问题。

对企业客户而言，通用大模型有着专业知识与行业数据积累不足，针对性与精准度不够的痛点，且企业客户对数据的专业性要求很高，容错率较低，信息失误会带来法律风险，企业需要可控、可追溯、可修正，且能经受充分测试的大模型。

腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生认为，企业需要的是具体行业针对性的垂直模型，企业可以用自己的数据对行业模型进行训练和微调，让大模型能提供更具有实用性的服务。

在发布会上，腾讯云直接推出了覆盖了金融、文旅、政务、传媒、教育等10大行业的模型，提供超过50个解决方案。腾讯展示了文旅行业、金融、教育等行业的垂直模型——这都是腾讯CSIG的重点服务行业。

以文旅行业为例，基于垂直行业大模型的智能客服，能够提供更详细的每日日程规划，如交通、景点安排，及定制化的推荐方案。

腾讯云也同样推出了MaaS（模型即服务）服务。腾讯云会为客户提供模型预训练、模型精调、智能应用开发等行业大模型解决方案，其次，企业可以根据TI平台内置的大模型，加入企业自己的数据，生成专属模型。企业可以根据自己的业务规模，选择不同参数、不同规格的模型服务。

为了让企业用起来，腾讯云在TI平台上提供了一系列模型工具链，如数据标注、训练、评估、测试和部署等。

在安全角度，腾讯云可以提供模型的私有化部署、权限管控和数据加密等方式，保证数据安全和使用安全，保证敏感数据的保护与安全合规。

算力是直接影响大模型训练和使用效果的因素。训练和推理需要耗费大量的算力，算力能力的稳定性、性能直接影响大模型训练速率和效果。腾讯云会为客户提供算力能力。

腾讯云在今年4月推出了面向模型训练的新一代HCC（High-Performance Computing Cluster）高性能计算集群，提供稳定计算、高速网络与专业运维的服务，让客户可以将精力放在模型构建和算法优化上。该集群采用了腾讯云星星海自研服务器，互联带宽达3.2Tbps，算力性能可以提升3倍。据汤道生介绍，目前，几家AI独角兽和腾讯云展开了合作。

此外，腾讯即将推出更适合AI计算的向量数据库。向量数据库可以更高效处理图像、音频和文本等非结构化数据，可以实现检索规模10倍提升，数据接入AI效率提升。

目前，腾讯的行业垂直模型已在赋能腾讯内部的行业应用。如腾讯会议将推出覆盖会议全流程场景的小助手，可以帮助用户进行日程安排、管理，且可以自动生成总结摘要，可以让用户回顾会议重点。

腾讯的企点智能客服，也会基于行业大模型和客户的具体业务，让客服机器人能提供更精准、详细的回答。

在企点分析平台上，垂直模型可以为销售人员提供精准的商业分析，如当销售人员问最近7天购买业浏览人数变化趋势时，企点分析平台可以直接回答详细的变化趋势，销售人员不需要再学习各种复杂软件、制作看板。

发布会后，腾讯云也安排了和腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声，及腾讯云副总裁、腾讯云智能研发负责人、优图实验室研发负责人、腾讯企点研发负责人吴永坚的交流对话，以下为经编辑对话：

问：为什么选择在这个时候去发行业大模型？

答：我们希望大模型跟行业相对能够做深入的结合，能够实质的具体的解决我们行业当中存在的对各个行业各个客户存在的具体的问题。

在过去几个月时间里，大模型技术飞速发展，在过去的时间里，我们掌握了相关的行业大数据积累，觉得现在合适把我们过去的一些实践层面的思考和我们所积累的工具链给大家分享。

问：腾讯现在的解决方案和之前相比，会有何不同？

答：我们认为，本质上是要在特定的行业里去满足客户的需求，我们会发现有一些可能以前技术上不好解决的问题，用了大模型技术之后，有更好的、更容易的解决手段。

问：大模型能很好地帮助客户降低成本吗？

答：我们的主要精力不会说考虑说怎么推广这个事情，更多的还是希望扎实地把这些工具这些能力运用到客户那里面，提升他们的生产力，我们都会选择一些行业里面有代表性的客户去进行合作建设，去产生一些标杆的意义，所以这个过程我觉得是一个很自然而然的过程。

问：客户对大模型的态度反应如何？

答：非常欢迎和拥抱，他们确实看到了以前一些很难解决的问题，得到解决了。如印章检查，印章盖在签名上，此前很难提取出章的样子，再识别出签名内容和签名日期。现在可以做到了。

问：智能客服已经是行业行业大户型落地的核心场景之一，腾讯云有哪些优势？

答：首先，我们坚持的是垂直行业模型的思路，能解决很多具体行业的问题。二是，我们背后有着过去多年的行业积累，这是很重要的基础。三是，底层的基建部分，算力、网络、工具链等，还是比较有门槛的。四是安全能力，腾讯在过去20多年里面，在安全里面有很深的积累。保证输出的答案是合法合规的。

问：现在行业大模型跟产业结合现在处于什么样的一个阶段？

答：现在还是处于比较早期的阶段，一方面我们现在大部分的技术还在发展过程中，非常多的技术的门类都在发展；二是产业对于模型的理解还有待加强。我们在面对行业特定问题的时候，都要去特定解决。

问：对于开源模型你们怎么看？

答：开源模型，我们对不同模型也会做尝试。比如去年评测时，我们发布的万亿模型，一直是在榜首的，同时，我们也会密切关注开源的发展，如开源模型，和开源模型之上的技术发展和应用发展。

问：腾讯现在使用的模型参数如何？

答：我们有不同规模的模型，但是我们更关注怎么解决客户的问题，用最有效最低成本的手段去解决客户的问题。不同的参数量，对于数据的要求和算力的要求是完全不一样的，包括后续的训练、推理成本都是不一样的。

问：腾讯云如何保证内部的算力资源调度的？

答：我们目前也没有遇到非常大的瓶颈和冲突，在一些行业里，客户本身也会有自己的计算资源，我们提供一整套的工具链和大模型服务流程，方法论，以及评测专家服务就可以了。

问：金融领域，很多银行等企业也会部署私有化小模型，我们现在的行业预训练大模型和上一代小模型相比有什么区别？

答：大模型，在不同参数量上会有很多的区别，逻辑推理确实需要很大的参数量，但是智能问答等，有十几B的需求，就可以满足客户的需求。客户的预算，是结合客户需要解决多大问题的难度，和需要解决的资源，来设计这套方案。有的场景，预算甚至不会增加，反而会降低，不再需要过去那样部署非常多的方案。

问：MAAS平台和之前的AI平台相比有什么升级和不同？

答：以前的AI平台，更强调的是平台的工具属性，做数据标准、训练，模型评测等。现在升级到MaaS后，工具属性仍然有，且客户可以直接在我们平台之上直接使用我们的模型，去做下一步的任务。

36氪旗下AI公众号

👇🏻 真诚推荐你关注 👇🏻

来个“分享、点赞、在看”👇

腾讯云发布多个行业大模型解决方案

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章