Redian新闻
>
全球140+大模型全方位评测结果出炉,智源评测体系发布

全球140+大模型全方位评测结果出炉,智源评测体系发布

公众号新闻

机器之心发布

机器之心编辑部


2024 年 5 月 17 日,智源研究院举办大模型评测发布会,正式推出科学、权威、公正、开放的智源评测体系,发布并解读国内外 140 余个开源和商业闭源的语言及多模态大模型全方位能力评测结果。


本次智源评测,分别从主观、客观两个维度考察了语言模型的简单理解、知识运用、推理能力、数学能力、代码能力、任务解决、安全与价值观七大能力;针对多模态模型则主要评估了多模态理解和生成能力。


在中文语境下,国内头部语言模型的综合表现已接近国际一流水平,但存在能力发展不均衡的情况。在多模态理解图文问答任务上,开闭源模型平分秋色,国产模型表现突出。国产多模态模型在中文语境下的文生图能力与国际一流水平差距较小。多模态模型的文生视频能力上,对比各家公布的演示视频长度和质量,Sora 有明显优势,其他开放评测的文生视频模型中,国产模型 PixVerse 表现优异。


由于安全与价值观对齐是模型产业落地的关键,但海外模型与国内模型在该维度存在差异,因此语言模型主客观评测的总体排名不计入该单项分数。语言模型主观评测结果显示,在中文语境下,字节跳动豆包 Skylark2、OpenAI GPT-4 位居第一、第二,国产大模型更懂中国用户。在语言模型客观评测中,OpenAI GPT-4、百川智能 Baichuan3 位列第一、第二。百度文心一言 4.0、智谱华章 GLM-4 和月之暗面 Kimi 均进入语言模型主客观评测前五。

 


多模态理解模型客观评测结果显示,图文问答方面,阿里巴巴通义 Qwen-vl-max 与上海人工智能实验室 InternVL-Chat-V1.5 先后领先于 OpenAI GPT-4,LLaVA-Next-Yi-34B 和上海人工智能实验室 Intern-XComposer2-VL-7B 紧随其后。

 

多模态生成模型文生图评测结果显示,OpenAI DALL-E3 位列第一,智谱华章 CogView3、Meta-Imagine 分居第二、第三,百度文心一格、字节跳动 doubao-Image 次之。多模态生成模型文生视频评测结果显示,OpenAI Sora、Runway、爱诗科技 PixVerse、Pika、腾讯 VideoCrafter-V2 位列前五。

 

图注:文生图模型的客观评测指标与主观感受差异巨大,有失效的迹象,因此排名以主观评测为准;Mdjourney 基本无法理解中文提示词,因此排名靠后;仅使用其官方公布的 prompts 和视频片段与其他模型生成的视频进行对比评测,评测结果存在一定的偏差。


首次联合权威教育机构进行大模型 K12 学科测试


当前,大模型的发展具备了通用性,在逻辑推理能力上有显著提升,日趋接近人脑的特征。因此,在海淀区教委支持下,智源研究院联合与海淀区教师进修学校对齐学生测验方式,考察大模型与人类学生的学科水平差异,其中,答案不唯一的主观题,由海淀教师亲自评卷。

 


智源评测发现,模型在综合学科能力上与海淀学生平均水平仍有差距,普遍存在文强理弱的情况,并且对图表的理解能力不足,大模型未来有很大的提升空间。

 


北京市海淀区教师进修学校校长姚守梅解读大模型 K12 学科测试结果时指出,在语文、历史等人文学科的考试中,模型欠缺对文字背后的文化内涵以及家国情怀的理解。面对历史地理综合题时,模型并不能像人类考生一样有效识别学科属性。相较于简单的英语题,模型反而更擅长复杂的英语题。解理科题目时,模型会出现以超出年级知识范围外的方法解题的情况。当出现无法理解的考题时,模型依然存在明显的 “幻觉”。


系统化构建文生视频模型主观评价体系


中国传媒大学智能媒体计算实验室负责人史萍教授表示,相较文本,视频的主观评价复杂度极高。自动化指标无法完全捕捉模型生成的质量,更无法对生成视频的真实性、图文语义一致性等进行量化。因此,需要系统化构建针对文生视频模型的主观评价体系。

 

该评价体系,由智源研究院与中国传媒大学基于双方在大模型评测领域和视频质量评价领域的丰富科研成果与实践经验共同建立,在图文一致性、真实性、视频质量、美学质量四大方面给出多维度评分,为 AIGC 视频生成技术的应用及发展提供参考。


科学权威公正开放的智源评测体系


依托科技部 “人工智能基础模型支撑平台与评测技术” 和工信部 “大模型公共服务平台” 项目,智源研究院与 10 余家高校和机构联合开展大模型评测方法与工具研发。


2023 年 6 月,由智源研究院与多个高校团队共建的 FlagEval 大模型评测平台上线,迄今为止已完成了 1000 多次覆盖全球多个开源大模型的评测,并持续发布评测结果,广泛地积累了国际领先的评测技术。


智源研究院牵头成立了 IEEE 大模型评测标准小组 P3419,组织 20 余家企业及学者参与大模型标准建设,同时作为《人工智能预训练模型评测指标与方法》国家标准草案的共建单位,智源此次的模型评测,借鉴了该标准,采取了客观评测统一规则与主观评测多重校验打分相结合的方法。其中,开源模型采用模型发布方推荐的推理代码及运行环境,对所有模型统一使用业界通用的提示语,不针对模型做提示语的优化。


本次智源评测使用 20 余个数据集、超 8 万道考题,包括与合作单位共建和智源自建的多个评测数据集,如中文多模态多题型理解及推理评测数据集 CMMU、中文语义评测数据集 C-SEM、中文语言及认知主观评测集 CLCC、面向复杂算法代码生成任务的评测集 TACO、文生图主观评测集 Image-gen、多语言文生图质量评测数据集 MG18、文生视频模型主观评测集 CUC T2V prompts。


其中,主观题 4000 余道,均来源于自建原创未公开并保持高频迭代的主观评测集,严格校准打分标准,采取多人独立匿名评分、严格质检与抽检相结合的管理机制,降低主观偏差的影响。此外,为了更准确地评测语言模型的各项能力,智源专门对所有客观数据集的子数据集进行了能力标签映射。

 


科学权威公正开放,是智源评测的最高纲领。智源研究院院长王仲远表示,未来,智源将携手生态合作伙伴继续共建完善评测体系,促进模型性能的优化以及在多元复杂场景下的产业落地,推动大模型技术应用的有序发展。



© THE END 

转载请联系本公众号获得授权

投稿或寻求报道:[email protected]

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
苹果新专利可为iPhone提供可更换电池/小米汽车今日发布,雷军曝光续航/百度智能云推出大模型全家桶首个中文原生DiT架构!腾讯混元文生图大模型全面开源,免费商用腾讯混元文生图大模型全面开源!Sora同架构,更懂中文,免费商用麻州14岁少年挑战全球最辣玉米片后猝死,尸检结果出炉国内外140+大模型、8万+考题测评结果出炉!智源评测体系出品首个AI高考全卷评测结果发布:数学全不及格;严打虚拟主播?腾讯视频号拟限制数字人带货;马斯克:宁愿亲眼见证AI毁灭人类丨AI周报AI早知道|阿里云全方位支持Llama 3 训练推理;讯飞星火即将发布新版本14岁少年挑战全球最辣玉米片后猝死 尸检结果出炉百川智能王小川:大模型价格战是好事;智源发布全球首个低碳万亿语言模型Tele—FLM丨AIGC日报大模型的“瘦身”革命:巨头逐鹿轻量化大模型 | 大模型一周大事百度宣布文心大模型两大主力模型全面免费李彦宏称百度11%搜索结果由AI生成/iPhone 16 Pro Max电池密度或提升/智源研究院发布多模型评估结果阿里通义千问 GPT-4 级主力模型降价 97%,百度文心两大模型全面免费上中国际、星河湾成最大赢家!ISEF结果出炉,为何中国队奖项腰斩?暑期孩子做点不一样的---源基金会2024年度公民参与及领导力项目重磅来袭:志愿服务、两大赛事全方位提升。川普没钱了/马克隆发飙制裁下的俄罗斯从邯郸三恶少说起狗引儿【长篇】(六十三)2024春假伦敦邮轮行之一重磅!2024智源大会完整日程公布——全球大模型先锋集结全球140+模型考试出炉!超8万道考题国产模型分数亮眼,智源评测体系发布与大模型交手近 1500 天,智源仍在坚持原始创新iPhone 和 iPad 将升级眼球追踪功能;字节豆包大模型全面开启商业化;蔚来第二品牌发布首款新车 | 极客早知道北大研究生复试结果出炉,“蔡元培”第一!网友:不管做校长还是学生,蔡元培都是这么厉害!如何全方位托举孩子的美高申请和美本名校之路?腾讯混元大模型全面降价!混元-lite 即日起免费周鸿祎向李彦宏“开炮”:有些名人胡说八道别被忽悠了;全球最强开源大模型Llama 3发布:最大模型参数将超4000亿丨AI周报【羽毛球赛】初赛结果出炉,半决赛即将来袭!超低价甩货!双面床笠,夏凉冬暖!A类标准,全方位包裹,买过的都回购了~禽流感!加拿大超市牛奶能否放心喝?官方检测结果出来了今日arXiv最热大模型论文:大模型都能怎么用?中南大学最新综述:大模型时代的自然语言处理去年加拿大为难民狂撒一个亿!住宿、餐食、安全全方位服务……保险产品全方位对比,票帝手把手教你选择最合适的!【2024.3更新,增加按照旅行目的地的对比】外企社招丨Hilti喜利得社招岗位来袭,全球领先建筑行业专家,4+1居家办公,全方位关怀
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。