Redian新闻
>
小模型时代来了?微软最小参数AI模型发布,性能逼近 GPT-3.5

小模型时代来了?微软最小参数AI模型发布,性能逼近 GPT-3.5

公众号新闻

作者 | 李冬梅

当地时间 4 月 23 日,微软宣布推出其轻量级人工智能模型 Phi-3 Mini 的下一版本,这是该公司计划发布的三个小型模型中的第一个。

Phi-3 Mini 可测量参数仅为 38 亿,并在相对于 GPT-4 等大型语言模型更小的数据集上进行训练。现已在 Azure、Hugging Face 和 Ollama 上可使用。另外,微软还计划发布 Phi-3 Small(7B 参数)和 Phi-3 Medium(14B 参数)两个版本。

微软在去年 12 月时发布了 Phi-2,其性能与 Llama 2 等更大的型号不相上下。微软表示,Phi-3 的性能比前一版本更好,其响应速度接近比它大 10 倍的模型。

微软 Azure 人工智能平台公司副总裁埃里克· 博伊德(Eric Boyd)介绍说,Phi-3 Mini 的性能与 GPT-3.5 等 LLM 不相上下,"只是外形尺寸更小而已"。

与大型人工智能模型相比,小型人工智能模型通常运行成本更低,并且在手机和笔记本电脑等个人设备上表现更好。据外媒《The Information》今年早些时候报道称,微软正在组建一个专门专注于轻量级人工智能模型的团队。与 Phi 一起,该公司还构建了 Orca-Math,一个专注于解决数学问题的模型。

微软的竞争对手也在研发自己的小模型,其中大多数针对更简单的任务,例如文档摘要或编码辅助。其中最典型的就是 Google 的 Gemma 2B 和 7B,这两款模型更适合简单的聊天机器人和语言相关的工作。

此外,Anthropic 的 Claude 3 Haiku 可以阅读带有图表的密集研究论文并快速总结它们,而 Meta 最近发布的 Llama 3 8B 可以用于一些聊天机器人和编码辅助。

Boyd 表示,开发人员通过“课程”对 Phi-3 进行了训练。他们的灵感来自于孩子们如何从睡前故事、单词更简单的书籍以及谈论更大主题的句子结构中学习。

“市面上没有足够的儿童读物,因此我们列出了 3000 多个单词的清单,并要求大语言模型制作‘儿童读物’来教授 Phi,”Boyd 说。

他补充说,Phi-3 只是建立在之前迭代所学到的知识之上。Phi-1 专注于编程,Phi-2 开始学习推理,而 Phi-3 更擅长编程和推理。虽然 Phi-3 系列模型能够了解一些常识,但它无法在更大范围的应用场景中击败 GPT-4 或其他大语言模型。

Boyd 表示,公司经常发现像 Phi-3 这样的较小模型更适合他们的定制应用程序,因为对于许多公司来说,他们的内部数据集规模都比较小,而这些使用较少算力的小模型更具性价比。

参考链接:

https://www.theverge.com/2024/4/23/24137534/microsoft-phi-3-launch-small-ai-language-model

原文链接:https://www.infoq.cn/article/TaPZvxmCOlBv9bCYBzDZ

 内容推荐

跳进 AI 的奇妙世界,一起探索未来工作的新风貌!想要深入了解 AI 如何成为产业创新的新引擎?好奇哪些城市正成为 AI 人才的新磁场?《中国生成式 AI 开发者洞察 2024》由 InfoQ 研究中心精心打造,为你深度解锁生成式 AI 领域的最新开发者动态。无论你是资深研发者,还是对生成式 AI 充满好奇的新手,这份报告都是你不可错过的知识宝典。欢迎大家扫码关注「AI 前线」公众号,回复「开发者洞察」领取。

 活动推荐

AICon 全球人工智能开发与应用大会 暨 大模型应用生态展将于 5 月 17 日正式开幕,本次大会主题为「智能未来,探索 AI 无限可能」。如您感兴趣,可点击「阅读原文」查看更多详情。


今天是会议 9 折购票阶段,购票或咨询其他问题请联系票务同学:13269078023,或扫描上方二维码添加大会福利官,可领取福利资料包。

今日荐文


逃离 Windows!德国又宣布迁移到 Linux,涉及数万系统、3 万余人,官员吐苦水:Windows 对硬件要求太高了


三大模型联手爆改《流浪地球》结局!如果你是刘培强,你是认命还是怀抱希望?|AI 测评室


微软秒删堪比GPT-4的开源大模型!研发总部还被爆在北京?官方:我们只是忘了测试


刘强东AI数字人首播,30分钟观看破千万;雷军回应爽文人生:不是高考状元、没有40亿;特斯拉大裁员:员工对赔偿满意|AI周报


走近李生教授:培养出周明、王海峰等数位AI科学家,NLP国际最高奖项得主的科研之路

你也「在看」吗?👇

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
GPT-4o科幻级语音交互,人手一个「Moss」的时代来了 |【经纬低调分享】微软最强 Surface Laptop 登场:性能快 86%、13.8/15英寸可选、配骁龙 X Elite / Plus 芯片阿里云重磅发布开源模型Qwen2,性能超Llama3-70及国内众多闭源模型小模型时代来了?微软推出其最小参数 AI 模型,性能逼近 GPT-3.5GPT-4现场被端侧小模型“暴打”,商汤日日新5.0:全面对标GPT-4 Turbo时隔一年Falcon回归!110亿参数5.5万亿token,性能超越Llama 3【天玉之浪漫爱情诗歌五十首】(2016-2018)逼近GPT-4的新模型发布!「欧洲版OpenAI 」联手微软,却被质疑违背初心奥特曼昨晚放话也要把大模型价格打下来!微软一夜革新生产力:Copilot 贯穿全场、小模型持续炸街“百模大战”周年考|国内大模型盘点:305个大模型发布,备案率约四成,如何寻找变现、破局之路苹果微软两大巨头,扎堆儿发布小模型!真的终端智能快来了!与AlphaFold3持平!国产抗体设计生成式AI大模型发布,能同时预测抗原抗体复合物结构和抗体从头设计鹰鸮弗拉科的自由之旅5亿参数“小模型”如何超越千亿级参数大模型GPT-3.5?高通 X Plus 芯片发布,性能超越 M3,AI 能力是亮点去年今日此门中----谷歌微软的神奇可怕记忆OpenAI 联创 Ilya 离职内幕曝光;微软中国AI团队集体打包去美国?最新回应;华为回应大模型发布会演示造假 | AI周报Mac不香啦?微软发布第一款GPT-4o加持的Windows微软发布Phi-3,性能超Llama-3,可手机端运行向Redis宣战?微软开源Garnet,性能提升几十倍!一块钱100万token,超强MoE模型开源,性能直逼GPT-4-TurboSuno v3音乐生成模型发布,几秒钟生成完整歌曲;富士通用生成式AI加速药物研发丨AIGC日报最强开源大模型 Llama 3震撼发布!开源模型将追上GPT-4,4000亿参数模型也在路上阿里云突然发布全球最强开源模型 Qwen2,性能超越美国最强开源模型微软最新10道算法面试题!开源大模型Llama 3王者归来!最大底牌4000亿参数,性能直逼GPT-4苹果加入开源大战,官宣端侧小模型OpenELM!参数2.7亿到30亿一台M2 Mac可跑中国移动千亿多模态大模型发布,「九天-九九」风趣畅聊堪比GPT-4o微软发布Phi-3 Mini:3.8B参数小到能塞进手机,性能媲美GPT-3.5GPT-4o模型发布 免费;曝小米15系列原价位段难守;Vision Pro通过3C认证国内首个开源千亿参数MoE大模型来了!性能超Grok-1,单张GPU可跑《扎基拉姆》&《一生的梦》iPhone就能跑!微软推出轻量级模型Phi-3,性能堪比GPT-3.5 Turbo,AI的未来在手机端?端侧模型 OctopusV3 发布:手机上的超级助理,性能媲美 GPT-4V 和 GPT-4 的组合?最后的爬藤(小说)GPT
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。