阿里云重磅发布开源模型Qwen2,性能超Llama3-70及国内众多闭源模型
整理 | 褚杏娟
6月7日,阿里云更新技术博客,并重磅发布开源模型 Qwen2-72B,性能超过美国最强的开源模型 Llama3-70B,也超过文心 4.0、豆包 pro、混元 pro 等众多中国闭源大模型。所有人均可在魔搭社区和 Hugging Face 免费下载通义千问最新开源模型。
官方表示,相比 2 月推出的通义千问 Qwen1.5,Qwen2 实现了整体性能的代际飞跃。在权威模型测评榜单 OpenCompass 中,此前开源的 Qwen1.5-110B 已领先于文心 4.0 等一众中国闭源模型。刚刚开源的 Qwen2-72B,整体性能相比 Qwen1.5-110B 又取得了大幅提升。
通义千问 Qwen2 系列模型大幅提升了代码、数学、推理、指令遵循、多语言理解等能力。在 MMLU、GPQA、HumanEval、GSM8K、BBH、MT-Bench、Arena Hard、LiveCodeBench 等国际权威测评中,Qwen2-72B 斩获十几项世界冠军,超过美国的 Llama3。
通义千问团队在技术博客中披,Qwen2 系列包含 5 个尺寸的预训练和指令微调模型,Qwen2-0.5B、Qwen2-1.5B、Qwen2-7B、Qwen2-57B-A14B 和 Qwen2-72B,其中 Qwen2-57B-A14B 为混合专家模型(MoE)。Qwen2 所有尺寸模型都使用了 GQA(分组查询注意力)机制,以便让用户体验到 GQA 带来的推理加速和显存占用降低的优势。
在中英文之外,模型训练数据中增加了 27 种语言相关的高质量数据,提升了模型的多语言能力。Qwen2 还增大了上下文长度支持,Qwen2-72B-Instruct 能够完美处理 128k 上下文长度内的信息抽取任务。
魔搭社区模型下载地址:
据悉,通义千问 Qwen 系列模型总下载量在过去一个月内翻了一倍,已突破 1600 万次。全球开源社区已经出现了超过 1500 款基于 Qwen 二次开发的模型。Qwen 系列的 72B、110B 模型多次登顶 HuggingFace 的 Open LLM Leaderboard 开源模型榜单。
6 月 7 日,Qwen2 系列模型的 API 第一时间登陆阿里云百炼平台。TensorRT-LLM、OpenVINO、OpenCompass、XTuner、LLaMA-Factory、Firefly、OpenBuddy、vLLM、Ollama 等众多全球开源平台和工具也宣布支持 Qwen2 最新款模型。除了美国 Llama 开源生态之外,通义千问已成为全球开发者的另一主流选项。
6 月 14 日 -15 日,ArchSummit 深圳现场,一起探索大模型时代的软件架构最佳范式。如您感兴趣,可点击「阅读原文」查看更多详情。购买票数越多,享受的优惠也就越丰厚,可以联系票务经理 17310043226 , 锁定最新优惠,期待与你的现场交流~
今日荐文
骗子进军AI领域!一边“删号跑路”,一边研发“新业务”,网友:我居然为它付了钱!
跟大厂拼价格到底!智谱AI 宣布模型全面降价,刘慈欣、AI 老罗线上“整活儿”
斯坦福AI团队“套壳”清华系开源大模型被实锤!被揭穿后全网删库跑路
走近吴立德教授:CV、NLP中国最高奖项得主,讲述复旦大学人工智能几十年往事
你也「在看」吗?👇
微信扫码关注该文公众号作者