基于模型量化的大模型压缩的进展
5月18日,百度CEO李彦宏在第七届世界智能大会上表示:“AI时代的原生应用都会基于大模型来开发。”大模型目前炙手可热,各大科技企业已经开出高达75k月薪来争夺大模型领域的人才。
相信同学们早已跃跃欲试,想抓住大模型这个好机会。但是大模型体量太大,在模型压缩中会遇到很多问题:
压缩技术中,为什么量化要优于剪枝、蒸馏?
如何搜索裁剪阈值用于裁剪outlier?
包含有异常值outlier的特征如何量化?等等
这次就要帮助同学们解决以上许多问题。深耕大模型领域的顶会审稿人将于7月6日20:00为大家带来直播讲座《基于模型量化的大模型压缩的进展》。
现在预约更有11篇量化大模型必读论文+复现代码免费赠送。想学大模型,一定不要错过!
扫码添加企微预约直播
免费领取11篇必读论文+复现代码!
11篇量化大模型必读论文+复现代码已经帮同学们打包好了,扫码一键领取!
👇👇👇
👆👆👆
扫码添加企微预约直播
免费领取11篇必读论文+复现代码!
微信扫码关注该文公众号作者
戳这里提交新闻线索和高质量文章给我们。
来源: qq
点击查看作者最近其他文章