Redian新闻
>
独家!APUS李涛:大模型被少部分人掌握,很危险

独家!APUS李涛:大模型被少部分人掌握,很危险

科技

技术、思想与价值观的冲突,将贯穿人工智能时代。
对话丨王方 邹蔚   

去年11月30日,OpenAI发布了聊天机器人ChatGPT。

APUS创始人李涛第一时间获知了这个消息,并想起三年前的硅谷之行:OpenAI创始人山姆·奥特曼向包括李涛在内的一群中国互联网创业者演示GPT-2玩一款即时战略游戏。李涛对GPT-2表现出的能力感到震撼,但并不认为它将成为“无处不在”的技术。

当他看完ChatGPT展现出的能力,他受到巨大冲击,他知道:一个时代要来了。

随即,他要求全公司从战略高度重视这波AI大潮。今年开春,全公司all in AI。

在AI战略上,APUS遵循“用两条腿走路”:通过全球化产品中积累的数据,保持大语言模型技术的相对领先;开发应用,让生态繁荣,最终解决产业实际痛点。在发展路线上,李涛提出适应中国AI发展的关键“六要素”:强健的算力、全球知识与高质量数据、敏捷进化的算法、价值观对齐、健康的产业生态与价值创造。

李涛还认为,由于大模型具备前所未有的智能,具备影响意识形态和思想文化的能力,全球各主要经济体需要训练出自己的大模型,掌握大模型主权。同时,每一个国家、每一种文明、每个阶层应该有自己的Agent(智能体,通过它用户可以让大模型更精准理解自己的需求),把大模型约束起来。

未来的阶层划分,可能不以掌握财富多寡为依据,而是以掌握技术的先进程度为依据。因此必须防止出现技术垄断。不久前OpenAI董事会和创始人山姆·奥特曼的冲突,本质上是双方思想、技术路线、价值观的差异导致的博弈。

在ChatGPT发布一周年之际,铅笔道与李涛做了交流,以下是对话精华。

- 01 -

铅笔道:你怎么看OpenAI董事会和创始人这次冲突?

李涛:看看OpenAI在11月7号发布了什么,就很清楚了。

第一,它发布了GPT-4 Tubor。Tubor实际上提供了最底层的模型能力,能给所有的应用和生态赋能,进而拿到了各种各样的数据。这种数据称为数据飞轮,数据飞轮一旦运转起来,会让它的数据指数级增长,反过来让模型更smart。

第二,它发布了Store,开始构建生态。发布Store之外,它把所有的AI服务和应用入口统一,还把所有开发者屏蔽了,只要搜索,就可以用插件在它的后台提供服务,开发者是没有入口的。

这件事带来特别重要的影响,未来所有开发者品牌将不复存在,所有的开发者只是在背后提供输出,而得到的回报是极其微薄的,仅仅能够维持生存。

如果你用谷歌或苹果的支付,收30%手续费。当开发者还有品牌的时候,它都可以收到30%。假设未来用户只知道GPT这一个入口,后面提供服务的开发者只是作为一个插件存在,OpenAI会给开发者留多少?它会给你留70%吗?我觉得不会。

第三,它发布了GPTs。GPTs的本质是智能体,每个人可以用 GPT来训练出属于自己的智能体,可能是自己的数字孪生,也可能是你自己的助理。你作为普通用户,你的数据、情感,依赖和寄托的对象,甚至你所有的服务未来都是通过它来完成的,GPTs变成了所有用户唯一的沟通对象和入口。这会导致用户对它严重依赖。

如果11月7号发布的战略得以实施的话,那OpenAI会成为一个庞大的“AI帝国”,当它做到技术垄断、数据垄断、流量入口垄断,你可以想象整个生态将变成什么样。

11月7号OpenAI发布的战略,从本质上来说或许是由少部分人控制的人工智能对现有的社会运行机制的一个挑战,这是最大的危机。

OpenAI事件不是简单的利益冲突,实际上是思想的冲突、技术路线的冲突、价值观的冲突,是这三个冲突带来的博弈。

未来或许每个人都希望利用GPT这样一个超现实的、足够先进的人工智能来构建自己理想中的乌托邦,但当底层技术、所有的数据、流量入口都由一家公司控制,将会是什么状态?

爆发冲突也是值得欣慰的事情,说明在文明世界依旧还有制约科技失控的力量。

铅笔道:有人提出对大模型开源,大模型在公众的监督之下,才有可能防止AI帝国出现。你觉得开源的建议靠谱吗?

李涛:仅仅开源是不够的。虽然开源一开始能够让力量更分散,但大模型的目的就是让所有人都要用它,所有人都在它上面开发,它才能变得最smart。因此大模型天然具有马太效应。如果仅仅通过开源,在马太效应下,最后很多模型还是会被淘汰,只有一个最多两个模型在起作用。

就算今天开源,OpenAI有先发优势,它再辅以相应的一些商业化操作,可能很多大模型根本就活不到下一轮。将来OpenAI可能还会(出于防御的目的)把人力成本、算力成本、能源成本都炒得很高,最终把大量的人力、资源都集中在一起,这个带来的风险是巨大的。

而且,它是独立的商业公司,受到相关知识产权法律体系的保护,不能被强制要求开源。另外,开源的边界在哪,大模型开源了,搜索引擎要不要开源?开源不是一件简单的事情,关于是否开源的争议最后很可能会不了了之。

我提出一个建议,全球范围内大的经济体都必须要有自己的大模型,把大模型纳入到现有的社会框架下来管理。全球文化和价值观的冲突很大,而今天OpenAI的GPT其实只奉行了一个价值观、一种文化,这是有问题的。

今天的人工智能,它具有着极强的意识形态、价值观和文化的引导性,它会把意识形态和文化潜移默化地渗透到每一个领域,这是很大的问题。所以,以大的经济体为单位,都有自己的模型,而不能让它漫无目的随意增长。

另外,每一个国家、每一种文明、每个阶层应该有自己的Agent(智能体)或框架,这个 Agent或框架必须符合自己的价值观和文明,把大模型约束起来,这是非常重要的一件事情。

大模型今天想做的事情就是要成为一个网络操作系统,它一旦成为网络操作系统以后,它又控制了网络入口,又掌握了所有的网络数据,然后它又具有文化和意识形态的引导性,那风险是非常非常大的。

铅笔道:从安全和开放的角度来讲,奥特曼离开会不会更好?

李涛:奥特曼只是个代表,代表着一个群体,甚至某种意义上它代表了一个阶层。

今天的社会阶层是用金钱、财富作为指标来划分的。未来可能有一个新的社会阶层,是以他掌握的技术为指标来划分。一旦他认为掌握了领先于整个人类文明的技术的时候,他就希望去构建一个全新的世界。而且他们认为用他们的技术对地球文明重新划分的时候,可能对这个地球的发展更好。

人类文明历史上每一次大的风险,都源于某一个人或一小部分人掌握着可以影响整个人类文明进程的能力的同时,有着一个特别伟大的乌托邦理想。

铅笔道:这个事给你的启发是什么?你如果在其中,你的解决思路是什么?

李涛:人类今天的社会文明结构,是通过 2000 多年的演化达到了最好的一种稳定状态。有清晰的国家边界、政府边界,有相对科学的一整套社会运行制度,它们保证科技和文明还能不断进化。

历史的车轮是由科技和文明同时推动,哪一个超出了太多都会导致很大的问题。今天的国家、民族和社会制度其实就是文明的特别典型的代表,要把今天的科技纳入到这个文明的体系下。

未来社会的阶层的划分,可能从掌握金钱转换为掌握技术,技术垄断会带来很多问题。刚才讨论的开源是个非常理想化的,想把技术拉平,但其实做不到,因为没有约束力。但如果以国与国、文明与文明、经济体与经济体之间能够有自己的大模型,就可以在现有的文明基础上构建这样的平衡。

- 02 -

铅笔道:经济体应该像过去发展钢铁、汽车、半导体一样制定产业政策来做自己的大模型,还是在完全自由竞争的市场环境里让大模型自发跑出来?

李涛:首先我认为应该有产业政策,没有产业政策完全没有边界,也是很危险的一件事情。但产业政策本身不能够以制约大模型的技术的进步为代价,产业政策应该是以帮助落后的文明或科技能够快速进化到更先进的文明和科技为目标的。

第二,在产业政策的框架下,要推行自由竞争,因为只有这样才能够让技术的进化、科技进化是奔着最强去的。同时,还能够让不同的经济体之间形成平衡和制约。

铅笔道:中文语料在全球来说相对非常少的,如果语料数量不足,会不会影响大模型开发的进程?

李涛:会,所以我说要加一个Agent或者框架。用APUS举例,我们建立了红色语料库,基于红色语料库构建了中国大模型的Agent,它在文化和价值观认同上,跟中国的文化和价值观保持一致。

中文语料并不是单纯数量上的少,而是在全球的知识里面,由中文贡献的以及数字化的知识太少了,而英文的很多。今天训练大模型,在教它知识的时候,还得给它价值观,还得让它遵纪守法。

认同价值观和遵纪守法这套东西跟知识不是一回事,因此我们设立了China AI Agent(CAA)机制,要让它从海外丰富语料中学到的东西也能为中国服务。

铅笔道:现在已经是百模大战了,是不是最后只有几个大模型会胜出?

李涛:一定的,三四个。

铅笔道:胜出的大模型会有什么特共同点?

李涛:首先数据量最大的积累。第二,它一定符合这个国家和这个经济体的价值观。第三它对应用和服务支撑服务是最好。第四,它一定是对用户的服务和体验最好的。

铅笔道:仅仅从企业经营者的角度看,做大模型所追求的最高使命是什么呢? 

李涛:我创造出来的人工智能技术是为全人类服务的。并不是我控制的人工智能为全人类服务,有没有“技术”这两个字,差别很大。

第一个实际上是真正在推动科技和文明进化,而第二个实际上是以追求利益为目的。

铅笔道:以APUS为例,具体是如何追求这个目标的? 

李涛:从一开始我们就提出为中国定制大模型。第一,我们做的东西要符合中国的价值观、符合中华民族的价值观和意识形态。第二,我们希望在中国范围内,我们的大模型是足够领先的。第三,如何能够真正为中国企业生产生活的服务提供能力赋能。第四,怎么让用户用得很好、很方便,同时又让用户也能够变得更加聪明。

铅笔道:APUS自研大模型,还推出了一系列产品,那背后支撑这些的根基是什么? 

李涛:第一是先发,我们2018年就开始做人工智能,但客观来说,大家过去的技术路线全是错的。因为小模型本质上就有问题,每一次都要为一个专业的方向和领域重新来定制,它没有规模效应、复制效应。我们也一样,一直到 2022 年都很辛苦。但是它带来了另外一个好处,就是让我们一直在这个领域内跟踪最领先的技术。去年11月ChatGPT发布,12月我们做了一个特别大的决定,意识到我们原来技术路线是错的,全部转向大模型。

第二,APUS做了一个开放实验室,与(新加坡)南洋理工、深圳大学、中科院、清华大学、(沙特)阿卜杜拉国王科技大学人工智能实验室的科学家和研究员合作,我们提供资金和算力,成果的知识产权双方共享。这种合作让APUS大模型的算法和应用的进化速度非常快。

第三,因为APUS长期做海外市场,内容类的产品非常多,全球累计有超过24亿用户,DAU(日活跃用户)过亿,这些数据对我们训练大模型有很大的帮助。

铅笔道:作为创始人,希望用人工智能普惠人类,那他在业务规划的时候要给自己设定哪些边界?

李涛:第一,要符合这个国家、民族或者文明的价值观。第二,没有人会真正去约束自己,一开始就要建立起一个健康的生态结构,尤其是利益分配方式。第三,你的大模型是不是推动了全产业的技术的进步,是不是真正的把你的技术通过开源或者是通过赋能的形式传递给了其他人。

铅笔道:你觉得现在大模型国内竞争环境健康吗?

李涛:不太健康。就像所谓的“百模大战”,哪需要百模啊?百模里头,做通用大模型的大概也就十几家、二十家,剩下全是做行业大模型。

第二,现在大模型被鼓吹得太响,这件事没有我们想象那么热。行业大模型、专业大模型跟通用大模型混在一起讲,其实是不科学的。

第三,中国的to G和to B生态本身就不太健康,只要技术达到 60 分,剩下的更多是靠人情来决定的,再加上水又搅得很浑,中国整个大模型市场、人工智能大模型市场就有点像早熟的巨婴。

“百模”背后是一种不科学的甚至扭曲的思维方式,大家都看到了人工智能带来的巨大的收益,所有人都想成为那个通吃的赢家,大家就宁可去做这个东西,也不去做后边的生态和服务。

APUS今年4、5月份提出全公司 all in AI,7月份提出要全力以赴在生态和应用上,做服务,真正开始落地,为产业创造价值。

我们认为大模型具有决定性意义的战略就两个,第一个是让自己的大模型的技术足够领先,第二是让自己的大模型生态足够繁荣。你只要抓住一点就可以了。

铅笔道:之前有些知名的人工智能企业,上市之后股价大跌,收入也不理想。现在这波生成式人工智能创业,怎么做到商业闭环?

李涛:上一代人工智能正是to G和大B比较多。现在的生成式人工智能必须真正落地,帮助企业解决问题。

第一,APUS帮三甲医院做智慧分诊,给医生提供诊断建议,极大提升医生的效率和准确性。第二,我们尝试着用人工智能给教育赋能。中国教育不平衡太大了,人工智能在推动教育公平、教育普惠。第三,我们在做智慧电商,包括模特展示,投放、推广都使用人工智能,可以极大降低成本。

铅笔道:哪些企业对人工智能买单意愿更强?

李涛:金融就是个特别典型的例子,因为它的产值非常高,人工成本又非常高。用人工智能可以很大程度解决降本问题。

电商,包括各种以互联网为平台的企业,是使用人工智能效果最好的领域。现在大家一说人工智能的应用全都是举的政府侧项目,大B的项目,什么制造业、造车的。大B和政府侧绝对不是人工智能应用的第一场景,第一场景一定是小B和大C。

大C包括小红书上的博主、设计师、带货的KOL,就过去说的个体户,他们对人最敏感。不单单是钱的问题,就算你是个很有影响力的KOL,你不见得能管一家公司,但人工智能可以帮你把这些问题全解决,你(依靠人工智能辅助)就可以做原来可能成百上千人的活。

铅笔道:人命运被改变的关键时刻,当时看起来是生命中很普通的一天。你的这个普通的一天是什么时候?

李涛:2018年11月30号,当天我和一群企业家在华为松山湖基地,晚饭和孟晚舟还有她先生一起吃的,吃完饭他们坐车赶到香港,然后飞到加拿大转机。(当时并不知道)它代表着一个时代的改变。

2019年,APUS在海外市场就面临了一系列各种各样的问题。从孟晚舟到我们自己,这一系列连续的事情,给我带来了特别大的冲击,我突然意识到:我们虽然是做互联网、做科技的,但无法超然于这个世界之外,还得受现实冲突的影响,我们没办法逃避这些事。

我们非常明确地意识到要两条腿走路:第一,我们把国内业务放大了,第二,我们原来是做操作系统和工具的,从19年开始做内容产品。

还有市场的选择,得互为备份,比如中国市场跟美国市场是互为备份的市场。我们还希望能做出一些服务,能够使用户严重依赖,不再受Google Play和App Store约束。这就奠定了我们后边跟人工智能的结缘,因为你要做内容,又想在做更好的产品和服务,人工智能是不二选择。

几乎是在松山湖吃饭的同一拨人,19年又在美国见了山姆·奥特曼。他在游戏和动画里演示,我们觉得很震撼,但并没有真正让我们觉得它是一个无处不在的技术。给我冲击最大的是ChatGPT(去年11月)上线的那一天,在中国那天极其普通,在国内可能要(今年)3月份才意识到,但它在那天一下子就改变了世界。

本文仅为口述者独立观点,不代表铅笔道立场,不构成投资建议。程茜对本文亦有贡献。封面图来自微信图库。

铅笔道近期推出了一款爆炸产品——媒体VIP会员,核心亮点是:以一顿午餐的价钱,聘铅笔道为你的年度媒体顾问,1年6次专属顾问时间,做你媒体圈的贴身朋友。详情可以查看链接



欢|迎|联|系
想获得调研,请联系:pencil-news
想商务合作,请联系:renguozhou2019
想加入创业社群,请联系:Pencil-news
想进行市场合作,请联系:Pencil-news
文章转载,请联系:Pencil-news


推|荐|阅|读





关|注|我|们
喜欢的话,记得分享、点赞和在看哦

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
李开复旗下340亿参数开源大模型被指“套壳LLaMA”,最新回应来了!李开复零一万物发布首款大模型;马斯克xAI发布首个大模型;360、美团、昆仑万维等最新消息;vivo发布蓝心AI大模型做副业、养赛博女友,大模型被年轻人玩疯了国外兽医警告:不要把宠物粪便冲进马桶,很危险!北京理工大学发布双语轻量级语言模型,明德大模型—MindLLM,看小模型如何比肩大模型双11特惠|国际重奢疯了?!𝘼𝙦𝙪𝙖𝙨𝙘𝙪𝙩𝙪𝙢(雅格狮丹)90%白鸭绒羽绒服,保暖防泼水,1折开抢!独家 | 旷视自救:大模型业务分拆,成立新子公司信息曝光科技国潮 | 莲花健康李涛:个性化定制时代即将到来科研上新 | 大模型推进科研边界;大模型的道德价值对齐;优化动态稀疏深度学习模型;十亿规模向量搜索的高效更新NUS、NTU团队发布医疗大模型综述,全面介绍大模型在医疗领域的最新研究进展咖啡是天使或恶魔?健康利弊一文掌握,这4种人最好别碰!当大模型被塞进 PC:如何提升算力利用效率?生活琐记:又一个愉悦的秋季周末小模型如何比肩大模型,北理工发布明德大模型MindLLM,小模型潜力巨大大模型infra专场:大模型系统层工作 | 第16届中国R会议暨2023X-AGI大会奇葩不?百度股价下挫10%:因文心大模型被引用 市场担忧被美国制裁趣图:大自然也在用 Git,网友:那你怎么 pull 和 pushAI早知道|百度推出视频生成模型UniVG;Soul APP上线自研语言大模型;清华大学首个大模型 Debug国际重奢卷疯了?!𝘼𝙦𝙪𝙖𝙨𝙘𝙪𝙩𝙪𝙢(雅格狮丹)90%白鸭绒羽绒服,保暖防泼水,1折开抢!免费试听|爬虫模型项目实战+SQL面试真题解析三周掌握,华丽变身数据大神!当大模型被塞进PC:如何提升算力利用效率?一路走来(五)咖啡是天使或恶魔?健康利弊一文掌握,这4种人最好别碰私教请回家!这款体脂秤太牛,20多项数据精准掌握,49.9拿下!大国过招:美国的烦恼新加坡消费税涨了,政府发钱了,李显扬公开diss李显龙了AI早知道|Stability AI推出最小模型;国内首个视频大模型通过备案;内蒙古首个AI大模型工业互联网平台发布Cos李佳琦,那英和安陵容火了!中国人重新发明了万圣节免费大模型实战课|首周聚焦百度智能云千帆大模型平台使用,《大模型应用实践》实训营11月16日开讲!快消外企社招 | Levi's李维斯办公室岗位放出!带薪休假,有偿志愿时间,退休储蓄计划别让大模型被基准评估坑了!测试集乱入预训练,分数虚高,模型变傻什么是暗物质和暗能量的作用?下面就是暗物质和暗能量的作用音乐 by 罗伯特·哈斯全球最强CPU一夜易主,130亿参数大模型被塞进PC,没网也能生成邮件周报PPT谭飞VS李星文:金鸡奖提名引热议,新意在哪遗珠有谁?
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。