Redian新闻
>
大模型之困

大模型之困

科技

高考期间,大模型再次“卷”起来了。ChatGPT、文心一言、通义千问、360智脑等大模型纷纷参与到押题、模拟答题、模拟写作文等环节,在“线上考场”赚足眼球。当前,“模型热”经久不散,业内普遍认为,“这是人类历史上距离实现通用人工智能最近的时刻”。也正因如此,国内“百模大战”愈演愈烈,其中10亿以上参数规模大模型已达到79个。然而,大模型是不是越多越好?中国到底需不需要这么多大模型?“模型热”下或许还需要一些“冷思考”。

中国大模型数量进入第一梯队

中国科学技术信息研究所发布的一份报告显示,从全球已经发布的大模型分布来看,美国在大模型数量上居全球之首,中国从2020年进入大模型快速发展期,目前与美国保持同步增长态势,中国和美国超过全球总数的80%。

据了解,早在2020年,美国就推出了11个大模型,其中包括著名的GPT-3。彼时,中国只推出了两个人工智能大模型。不过,短短三年时间内,中国10亿以上参数规模的大模型已经发布了79个,与美国现有的100个大模型在数量上已相差无几。

尤其值得一提的是,截至5月底,中国今年已开发出19个大模型,而美国年内推出了18个大模型,包括新发布的GPT-4。这意味着,中国大模型的开发速度已呈现出赶超美国的趋势。

全球大模型分布情况

来源:中国人工智能大模型地图研究报告

报告显示,截至目前,国内共计14个省区市正在开展大模型研发,主要集中在北京、广东、浙江、上海等地。各地密集发布的方针政策为捕捉大模型机遇、探索通用人工智能新路径创造了良好氛围。

国内市场呈现出了百花齐放的发展趋势,不仅有百度、华为、阿里、腾讯、京东、字节跳动、科大讯飞、商汤等先后公布大模型进展;还有AI创业圈大佬,如出门问问创始人李志飞、搜狗创始人王小川、美团联合创始人王慧文和元老级高管陈亮等投身其中;中科院自动化研究所、上海人工智能实验室、复旦大学、清华大学等科研院所也纷纷入局。整体来看,国内大模型数量增长之快、入局者之多、市场热度之高令人惊叹。

“多而不强”是中国大模型现状

“之前,无论从AI论文发布数量、引用量、专利数,还是从人工智能企业、独角兽数量来看,我们对中国在人工智能方向上的发展还是非常乐观。但在ChatGPT发布之后,大家突然发现中国人工智能的发展还有很多问题待解决。”中国科学院计算技术研究所研究员张云泉感叹道。

模型多而不强成为关注焦点,以至于业界纷纷质疑是否需要那么多大模型。“国内的大模型在能源消耗和数据消耗方面与国外的大模型相差不多,效果却差很多,在性能方面还有很大提升空间。”中国科学院院士陈润生坦言,“现在有这么多企业、机构都要做大模型,这是行不通的,实际上根本没有那么多的数据源,也没有那么多算力可供消耗。”

AI应用正在走向各行各业
“实际上,国内有3、4个通用大模型就够了,蜂拥而上反而会导致很多重复的投资,产生一些低质量的产品。”晟云磐盾信息技术有限公司总裁郝峻晟向记者表示,“大模型是高投资、低商业回报的项目,OpenAI投入了130亿美元来做ChatGPT,一开始并不知道会取得如此大的成功,只是为了技术信仰而已。但是这一点大部分公司都做不到。未来只有愿意在某个技术领域持续进行长期、大量投入的公司才可能有机会。”他指出,一方面,国内比较缺乏专业的大模型人才;另一方面,LLM的算法本身是开源的,但需要根据数据来进行训练和调整,本土企业在数据量和算法理解方面还有提升空间。 
机器学习系统研究者国家分布
来源:斯坦福大学研究报告
但是,复旦大学教授、上海市数据科学重点实验室主任肖仰华认为,与国际同行相比,模型、数据和算力并不是中国最大的劣势,真正的短板在于对大模型“炼制”工艺的掌握,包括数据配方、数据清洗和参数设置等。
“每一个具体模块,国内其实都知道怎么做,但是将它们整合在一起,总体效果和国外就是存在差距。”肖仰华表示,“中国AI产业面临的不是能不能做的问题,而是做出来的效果是70分与100分的差别。我们要赶上最后这几十分,就要不断试错、评测和改进。”
中国工程院院士廖湘科也认同未来真正具备国际竞争力的通用大模型可能只有少数的一到两个,其他参与者将基于通用大模型进行微调和推理,提供行业定制化的模型服务。
不过,清华大学教授陈文光认为,现在AI整体的发展仍处于非常初期阶段,未来究竟如何尚未可知。现阶段还是应该鼓励百花齐放、多方探索。国家层面应该加强相关布局与规划,剩下的可以交给市场,没必要过早限制大模型的发展。
如何走出一条中国的大模型之路?
在势不可挡的生成式AI浪潮中,中国如何走出一条自己的大模型之路?
“在大模型三要素——数据、算力、算法里,我们未来最有机会发力的就是算法和模型。”国家信息中心信息化和产业发展部主任单志广提出,“ChatGPT是采用集中式算力来推动的,未来我们或许可以换一条路,比如走下一代分布式路线,通过更先进的互联技术将国内的一些算力基础设施更好地连接起来,挖掘更强的计算能力。”
熊猫机器人优悠在迪拜世博会中国馆教游客打太极
异构计算为大模型寻找性能与成本之间的平衡提供思路。中国科学院院士钱徳沛表示,在现代工业化体系下,既要达到高的性能,又要实现低的运营成本、设计成本、制造成本,使得全系统成本降低,应该尽可能地用更高效的异构结构和部件来支持不同的计算。
近日,一个疯狂开源计划在大模型圈掀起轩然大波。这个名为亚历山大的开源计划由四个平均年龄仅20岁的少年团队发起,他们宣布要将整个互联网变成大模型语料,每1亿个Token只需1美元,为降低模型成本提供了思路。这与中国产业界发展AI的理念不谋而合。
实际上,不同于国外大模型走向闭源,目前国内发布的大模型一半以上都已经实现开源,主力是高校和科研机构。北京智源人工智能研究院院长黄铁军表示,开源是大模型的未来,需要不断加强协同创新。
但是,创新工场董事长李开复提醒,要“支持开源,但不能过度依赖开源模型”。首先,开源模型无法达到国外大厂自研模型的性能,开源模型的能力会成为“天花板”;其次,海外大厂的开源技术有关闭风险;最后,由于国内外文化、用户习惯和法律法规不同,将在国外训练好的模型带到国内进行微调是存在风险的。“中国大模型公司不应再依赖于他人的开源模型,需要尽快建立自己的IP(知识产权)和技术优势,形成护城河。”他说。
中国工程院院士郑纬民建议,可以多方合作打造一个共同的通用大模型,并让这个模型成为新的基础设施,但要实现这个目标还有很多问题待解决,比如怎么才能把不同的模型连接起来,怎么实现传输,怎样才能既满足对算力的要求,又比较节省成本等。
“新兴技术的引入必然会经历从‘一拥而上’到‘潮水退去’的过程。预计在2025年之前,我们将看到大模型建设热潮褪去之后的真实情况。”Forrester 副总裁、研究总监戴鲲表示,“大模型的到来颠覆了人机、人人乃至机器与机器、技术领域与技术领域之间的交互协同机制,但同时也带来了更多的复杂性挑战。与其谈‘弯道超车’,不如谈‘厚积薄发’。只有面对现实、秉持用户至上的长期主义,才有可能真正为用户创造价值。”
延伸阅读:
AI大模型通用好还是专用好?专家观点来了
AI大模型:软件可靠性工程发展新思路


作者丨宋婧
编辑丨刘晶
美编丨马利亚
监制丨连晓东


微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
​大模型之争(3):“靠技术”还是“追热点”?两个多月完成全自研:大模型之争,从 GPU 卷到了向量数据库AI大模型如何在行业实际落地:企业对话场景拥抱大模型之路To B大模型,一场重塑企业软件的大模型革命大模型之争(1):“参数为王”?坚持做行业大模型,竹间智能给大模型造了一座「模型工厂」大模型综述来了!一文带你理清全球AI巨头的大模型进化史大模型之争(2):大厂各出“奇”招?抖音加入大模型之战!三行代码调用PandaLM大模型自动实现保护隐私、可靠、可复现的大模型评估阿里达摩院大模型公开课上新!主讲中文个性化对话大模型ChatPLUG和模块化多模态大模型mPLUG-Owl中国AI产业地图:谁是“大模型之都”传OpenA正测试DALL·E 3模型;华为语音助手支持AI大模型;亚马逊组建AI大模型新团队丨AIGC大事日报中国团队自动驾驶大模型斩获CVPR最佳论文;Stability AI推出新文生图模型;京东大模型即将发布丨AIGC大事日报盘古大模型之外,华为首秀大模型时代「硬实力」十亿参数,一键瘦身!「模型减重」神器让大模型狂掉3/4 | 最“in”大模型GPT5短期不会问世 马斯克已悄然注册AI公司加入大模型之战对话李志飞:大模型的关键在于如何把大模型用起来|年度AI对话大模型变“小”:黑马天启开创AI模型“重度垂直”新思路,入选北京大模型行业应用典型案例百度华为阿里等入选大模型“国家队”;盘古大模型3.0发布;阿里云推AI绘画大模型丨AIGC大事日报中国企业的大模型之路该怎么走?冷却的不止季节(48)— 致富之路长篇小说《如絮》第一百一十四章 旧金山-2004年 失眠训练大模型之前,你要了解下向量数据库、算力集群、高性能网络技术底座吗?适配超20+芯片厂商,昇思MindSpore大模型之路走南闯北浣溪沙:云中鸿雁画诗行双林奇案录第三部之天禅寺:第二十一节谷歌将推新版大模型;抖音发布AIGC平台规范;宇视推出行业大模型 | AIGC日报可复现、自动化、低成本、高评估水平,首个自动化评估大模型的大模型PandaLM来了只给大模型LeetCode编号,也能解题!大模型表现好是源于对训练数据的记忆吗?请不要迷信大模型一年一度AI大考,大模型之外,为何游戏公司的答卷也很重要?Webinar预告:临床新药模型之类器官3D培养和高内涵成像应用论坛乘着思想的翅膀 - 人类何时被AI凌驾应用大模型之后,机器人学会叠衣服、做咖啡了吗|此话当真 EP02模型“狂欢”之下, 算力之困何解?
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。