腾讯大模型交卷:不追求参数,走实用路线|甲子光年
没有发布对话机器人。
作者|武静静
编辑|赵健
千呼万唤始出来,6月19日下午,腾讯云的大模型终于露面。
神秘的面纱只揭开了一半。本次发布会由CSIG(云与智慧产业事业群)主导,并没有发布像ChatGPT、文心一言这样的大模型对话机器人,而是把重点放在了与腾讯云结合的行业大模型。
目前,云厂商在大模型的产业落地思路上基本已达成共识:MaaS(Model-as-a-Service)模式,落地行业,和客户一起合作做垂类大模型。这也是腾讯云的行业大模型总体思路。
腾讯云分享了行业大模型的整套系统架构:基于TI平台打造行业精选模型商店,面向金融、文旅、政务、传媒、教育等10大行业,提供超过50个解决方案。此外,腾讯云还公布了行业大模型在腾讯企点(腾讯的CRM产品)、腾讯会议、腾讯云AI代码助手等SaaS产品中的应用进展。
距离ChatGPT发布已经过去半年多,各种大模型也层出不穷。在腾讯这场发布会上,行业大模型的整体架构和落地方向上,并没有太多惊艳的地方。
马化腾此前在财报会上说:“大模型是互联网百年不遇的机会,是类似发明电的工业革命一样的机遇,腾讯并不急于把半成品拿出来展示,关键还是要把底层的算法、算力和数据扎扎实实做好,而且更关键的是场景落地。”
现在看起来,腾讯大模型的特点正如马化腾所总结的那样,更加地务实。
1.汤道生:通用大模型不一定是最优解
眼下,在落地上,国内公司已经达成共识:通用大模型不是唯一解,通用大模型和垂类大模型已经不再是选择题,很多大模型公司都在同步探索两个方向。
这个共识主要出于大模型落地的现实性考量。腾讯集团高级执行副总裁、云与智慧产业事业群CEO汤道生也提到了通用大语言模型在应对产业场景落地时存在一定的局限性:“企业需要的是在实际场景中真正解决了某个问题,而不是在100个场景中解决了70%-80%的问题。而通用大模型的训练数据主要来自公开数据集或网络数据,对于特定行业的专业领域知识了解有限;通用大语言模型的训练需要大量计算资源和漫长的训练周期,对企业而言昂贵且耗时;安全和合规是企业的必要考量因素。”
他提到,“通用大模型不一定是满足行业场景需求的最优解。企业需要有针对性的行业大模型,结合自己的数据做训练或精调,在合理的成本下,打造实用性更高的智能服务。”
这是腾讯云做行业大模型时看到的机会和价值。围绕这一思路,腾讯云推出了一站式的行业大模型精选商店。腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声分享了整体产品架构:“依托腾讯云大模型高性能计算集群和行业大模型能力,我们通过腾讯云TI平台,面向客户全面输出MaaS能力,可以满足客户模型预训练、模型精调、智能应用开发等多样化需求。”
他透露,目前,腾讯云已经携手传媒、文旅、金融、政务、教育等行业的头部企业,在十余个行业探索了超50个行业大模型的应用解决方案。
我们可以看到,此次,从算法技术、工具到产品,腾讯云都进行了全新的升级,其推出的行业大模型主要架构分为三层:
技术底座层包含算力工具和行业模型。算力方面,包含腾讯云今年4月发布的专为大模型训练设计的新一代HCC高性能计算集群;依托自用的向量引擎(OLAMA)腾讯云也即将推出向量数据库(Tencent Cloud VectorDB);以及自研的星脉计算网络架构。模型方面,包含各类的行业大模型基础设施。
平台层的核心是腾讯此前就进行过多次迭代升级的机器学习平台——腾讯云TI平台,这是腾讯云大模型能力在行业落地的技术“杀手锏”。结合大模型技术,TI平台此次进行了新的升级:除了包含此前就有的数据标注、训练、评估、测试和部署等工具,还有升级后的“太极Angel”,可以进行更优训练和推理加速,同时也包括了从“业务分析、数据处理、大模型选择”到“模型评测”的一体化完整方法论。
吴运声提到,腾讯云TI平台可以实现针对行业场景的低成本落地,比如智能客服场景,训练性能可提升10倍,训练成本下降90%。
最上层的MaaS就是针对具体的产品和行业推出的具体解决方案,除了包含行业大模型精调解决方案,还有针对细分领域的模型训练平台、各种应用平台以及具体的智能应用。以腾讯云数智人工厂为例,腾讯云MaaS能力可以让数智人分身复刻缩短至24小时,大幅降低成本。此外,在文旅领域推出的文旅大模型,金融领域打造的OCR大模型都是已经在落地的案例。
该“文旅大模型”的现场演示是本次活动的亮点之一,我们看到,其中的机器人对话产品可以根据提出的问题,给出详细的旅游攻略;还可以自动调用相应的API,直接给出了酒店和车票的预定链接。
吴运声也重点强调了腾讯大模型的安全能力,这也是当下很多大模型在重点补齐的能力。他说:“我们在问题侧、模型侧、答案侧三个层面进行敏感信息的过滤和规避。同时,依托腾讯多年的安全经验和天御风控能力,提供AIGC全链路内容合规解决方案,确保大模型可信、可靠、可用。”
除了对外和客户一起共建行业大模型之外,腾讯云公布了行业大模型能力在腾讯企点、腾讯会议、腾讯云AI代码助手等内部产品中的应用:
腾讯企点推出了新一代智能客服和企点分析AI助手,可以快速根据提问生成数据和结果,也可以进行智能化的数据采集、治理、分析。
腾讯会议宣布即将推出AI小助手,可以基于会议内容,进行快速分析,自动生成智能总结摘要,还能执行会管会控,进行智能录制。
腾讯云也宣布将推出新一代AI代码助手,支持多种编程语言和主流开发框架、以及常用开发环境;覆盖开发关键流程,包括沟通、编码、排错、评审和调优。
2.不关注模型参数,走实用路线
3.MaaS成云计算竞争新赛点
END.
微信扫码关注该文公众号作者