年入10亿的创业公司怎么做大模型

曙光出现 

李涛将影响大模型质量的要素分为4类：算法、算力、数据和场景。在他看来，如果将决定大模型效果的因素按照重要性来排序，应该为：训练数据质量>训练数据规模>参数规模。

在技术路线上，APUS采用大参数和大数据来训练中等规模模型。

“AiLMe是1000亿参数的模型，但背后的数据其实是2.2万亿的token，他们原来都是追求所谓大参数，APUS在训练上略有不同，我们的场景依赖度会更高。”李涛告诉《中国企业家》。

为解决算力问题，APUS在郑州和新加坡分别建设了两大智算中心，在自建GPU服务器算力外，APUS还跟腾讯、阿里、亚马逊等服务商进行租用和采购，与第三方的算力协同作用。

在数据方面，APUS大模型的数据来源有4个：第一，公开的行业数据；第二，互联网的公开数据；第三，专门用于训练人工智能的数据集；第四，真实的用户需求数据，即每天有上百万人在使用产品时产生数据和互动，该部分在模型训练里的权重也非常高。

在李涛看来，ChatGPT的震撼一半归功于OpenAI团队，另外一半得归功于全球的用户，因为是全球的用户打开了ChatGPT的想象空间，开启了思维模式。

相比大家对算力的焦虑，李涛更看重高质量的数据。

“这通常是真实用户的真实需求和问题，我们都脱敏过，不会涉及数据隐私安全，更关注用户的问题和需求，至于你是谁并不重要。”李涛解释，比如，APUS旗下“智能问答大师”产品每天产生几十万的用户问题，这些都可以用来训练数据和模型。

针对具体应用场景，APUS从AiLMe大模型内蒸馏出文本、图像、视频、音频四个垂直领域精炼模型，并基于此开发出直接面向用户的智能问答大师、简笔成画、墨染、Star Night、KJV Bible Now、PicPik等AI产品。

在李涛看来，应用场景最大的好处是两个，第一，提供高品质的数据；第二，提供实时的数据。

在商业模式上，李涛采用短期to C、中长期to B的模式。他认为，to C很容易形成闭环，用户自发付费，更灵活也更有弹性。但中长期一定是to B，因为一家公司所能覆盖的场景一定是局限的，需要更多的行业伙伴共同建构。未来它将无处不在，所有的服务都要用到它，整个市场将是10万亿美元以上的规模。

与此同时，李涛还预言，未来很多行业服务都要通过在大模型基础上蒸馏出精炼模型来支撑，而不是用大模型全局支撑，因为这样成本太高了，一个大模型会蒸馏出若干个经验模型，用来支撑不同的服务。

从春节到现在，APUS内部员工从部分人不解、一些人不信，到慢慢地大家都去尝试，一切都在悄悄发生变化。如今，APUS几乎所有的员工已经有了采用AI工具的意识，李涛也提出了“如果员工借助AI提效30%涨薪10%，提效50%涨薪20%，提效50%以上涨薪30%”的允诺。

在此背景下，APUS内部正在分成三批人：一批人专注做大模型；一批人专注把大模型用到C端产品上；另一批人就是职能部门的员工，可以采用任何AI产品。内部员工的产品选择，也正形成一种隐形压力，比如李涛可能会问：“你看同事都不用你的产品，你是不是得努力？”

过去的20多年，李涛亲历了360的起伏，也见证了字节跳动、美团等新巨头的崛起，他直觉判断通用AI大模型会成为未来20年的主流，“这是一场全新的技术革命，既然我都看到了，就必须要跑在别人前面。”

过往的经验告诉李涛，任何技术变革前期都是巨大红利期，也是对社会创造价值最多的时间窗口。“对于做企业的人来说，永远要捕捉这个时代的潮流。”李涛表示。