Llama 2开源为中国大模型企业带来哪些机遇？

财经

2023-07-22 05:07

2023.07.22

本文字数：1386，阅读时长大约2分钟

导读：这对于大量的开发者而言是一个福音，意味着大模型应用进入了“免费时代”。

作者 | 第一财经钱童心

Meta公司本周发布了人工智能模型Llama 2的开源商用版本，这对于大量的开发者而言是一个福音，意味着大模型应用进入了“免费时代”，初创公司也能够以低廉的价格来创建类似ChatGPT这样的聊天机器人。

猎豹移动创始人、董事长傅盛就在社交媒体上公开表示：“大模型不再高不可攀，平民化大模型时代已经到来！像我们这样的公司会笑醒在深夜。”

傅盛在7月21日的一场长江商学院举办的论坛上再次说道：“应用开发者未来可以基于开源大模型安安心心地开发应用，不用担心被大模型釜底抽薪了，大不了，就用自己的大模型版本！”

作为聊天机器人等人工智能工具等基础，大模型的开源将降低企业开发各自版本的ChatGPT。Meta将Llama 2开源，意味着企业可以访问Llama 2模型，并通过调优来创建自己的类似于ChatGPT或谷歌Bard聊天机器人这样的产品。

傅盛告诉第一财经记者，做大模型应用的开发者将最先受益，意味着它们能够以非常低的成本为客户提供自主的大模型，提升整个社会的生产效率。

第一财经记者了解到，猎豹正在开发两款大模型的聊天应用，一款叫做聚言chatmax.ai，另一个是收费版本的brainstorm.ai。据介绍，brainstorm.ai已经能够为极客公园的AGI大会输出方案；聚言chatmax.ai是一款基于私有化垂直行业的大模型技术，可以为企业提供客服、导游、财报分析、法律顾问、合同审核等领域的能力。

“Llama免费、开源、商用，并且发布了从70亿到700亿不等的参数版本，700亿参数版本回答的质量已经与GPT3.5的水平相当。”傅盛表示，“这意味着很多在大模型上高额投资的公司变得没有那么多的价值了。”

这一观点几乎是业内普遍的共识。现在像Llama这样复杂的模型广泛使用并免费供企业构建，可能会颠覆OpenAI等公司在新兴的生成式人工智能软件市场中建立的早期主导地位。

不过在一些做大模型应用的企业显著受益于开源的Llama 2的同时，也有开发者提出了它的局限性。一位从事3D生成与数字人技术公司的开发人员对第一财经记者表示：“Llama2虽然免费开源，但是企业还是需要自己进行部署，一些比较小的公司如果仅仅拥有一台服务器，那么意味着无法同时处理大量客户的回复，他们需要一个个排队等待，这就会使得任务的响应很慢。”

而使用OpenAI就能避免上述问题。“OpenAI部署的大模型服务器更多，如果我们直接用OpenAI的服务，就可以同时响应这100个客户。”上述开发者表示，“如果使用Llama 2想要达到同样的效果，意味着企业需要拥有100多台服务器，这还没有考虑到运维的成本。”

他同时强调，Llama 2的开源主要是为了那些基于此来做自己的聊天机器人以及AI数字代理（AI agent）的团队，因为这能够方便企业进行快速的微调，从而省去了对模型训练前期的大投入。“对那些不依赖语言模型以及不需要对模型进行微调的团队来说，Llama开源的优势并不显著。”他对第一财经记者表示。

据介绍，大模型训练的四大步骤包括预训练（pre-training），监督微调（supervised fine tuning），奖励建模（reward modeling）和强化学习（reinforcement learning）。其中预训练堪称鸿沟，算力时长占四个步骤的99%以上，而Llama 2对开源可以节约算力成本，为训练大模型的企业跨越了算力鸿沟。

“我认为大模型开源一定是未来的方向，能促进行业的技术往前进步一大截，Llama 2的整体效果还是不错的，但具体产品化落地还是需要各家厂商继续努力。”达观数据CEO陈运文对第一财经记者表示。达观数据近期发布了自主研发的大型语言模型“曹植”系统。

微信编辑 | Ziang

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章