Redian新闻
>
算力专题:GPU芯片解析

算力专题:GPU芯片解析

公众号新闻

虽然Al芯片目前看有SPU、ASIC、CPU、FPSA等几大类,但是基于几点原因我们判断GPU仍将是训练模型的主流硬件:
1、Transformer架构是最近几年的主流,该架构最大的特点之一就是能够利用分布式BPU进行并行训练,提升模型训练效率;
2、ASIC的算力与功耗虽然看似有优势,但考虑到AI算法还是处于一个不断发展演进的过程,用专用芯片部署会面临着未来算法更迭导致芯片不适配的巨大风险;
3、英伟达强大的芯片支撑、生态、算法开源支持。
模型小型化技术逐步成熟,从训练走向推理。云、边、端全维度发展。
1、GPU方面, 在英伟达的推动下,其从最初的显卡发展到如今的高性能并行计算,海外大厂已经具备了超过20年的技术、资本、生态、人才等储备,形成了大量的核心技术专利,而且也能充分享有全球半导体产业链的支撑,这都或是目前国内厂商所缺失的。
近几年在资本的推动下,国内涌现出数十家GPU厂商,各自或都具备一定的发展基础,但整体经营时间较短,无论从技术积淀、产品料号布局、高端料号件能夹说,与国外大厂仍具备较大差距。但国产化势在必行,国内相关产业链重点环节也积极对上游芯片原厂进行扶持,国产算力芯片需要不断迭代以实现性能的向上提升,后续持续关注相关厂商料号升级、生态建设和客户突破:
2、 Al在端侧设备应用普及是大势所趋,目前,知识蒸馏、剪枝、量化等模型小型化技术在逐步成熟,Al在云、边、端全方位发展的时代已至。除了更加广泛的应用带来需求量的提升外,更复杂算法带来更大算力的需求也将从另一个维度推动市场扩容;
3、数据的高吞吐量需要大带宽的传输支持,光通信技术作为算力产业发展的支撑底座,具备长期投资价值;
4、 Chiplet技术可以突破单一芯片的性能和良率等瓶颈,降低芯片设计的复杂度和成本。
来源:走进芯时代:AI算力GPU芯片系列下载

算力专题:GPU芯片完全解析

GPU技术篇:

更新提醒:“存储系统基础知识全解(终极版)”和“服务器基础知识全解(终极版)”已经更新发布,还没有获取的读者,请在点击“原文链接”在微店留言获取PDF阅读版本)。



转载申明:转载本号文章请注明作者来源,本号发布文章若存在版权等问题,请留言联系处理,谢谢。

推荐阅读
更多架构相关技术知识总结请参考“架构师全店铺技术资料打包(全)”相关电子书(41本技术资料打包汇总详情可通过“阅读原文”获取)。

全店内容持续更新,现下单“架构师技术全店资料打包汇总(全)”一起发送“服务器基础知识全解(终极版)和“存储系统基础知识全解(终极版)pdf及ppt版本,后续可享全店内容更新“免费”赠阅,价格仅收249元(原总价439元)。


温馨提示:

扫描二维码关注公众号,点击阅读原文链接获取架构师技术全店资料打包汇总(全)电子书资料详情


微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
中国生成式AI大会再揭晓15位嘉宾!大模型及应用技术大咖、算力专家和青年学者都来了终于不用为GPU算力发愁了,请低调使用!周末啦OpenAI有望在今年夏季推出GPT-5;英伟达推出更强GPU芯片;马斯克宣布正式开源Grok-1|AIGC周观察第三十七期通威THC、TNC组件双双刷新世界纪录;Arm发布基于3nm芯片工艺的新CPU、GPU IP丨智能制造日报油菜花开了圣雄甘地修定力专挑少女洗澡同睡,死后数十女信徒跳火殉葬北京算力基建实施方案重磅发布!重点支持采购自主可控GPU,要支撑万亿参数大模型训练融了8个亿!还要颠覆英伟达?Sohu芯片真这么厉害……张鹏对谈安克阳萌:GPU 和 Transformer 可能是中间态,机器人+大模型会诞生超级品类OpenAI陷巨大算力荒,国内大厂抢先破局!打破单芯片限制,算力效率提升33%台积电董事长预测:未来15年每瓦GPU性能提升1000倍,GPU晶体管数破万亿!OpenAI CEO最新演讲:GPT-5性能远超GPT-4;媲美Sora,视频生成模型EMO上线通义APP丨AIGC日报AI国力战争:GPU是明线,HBM是暗线OpenAI抓内鬼出奇招,奥特曼耍了所有人:GPT搜索鸽了!改升级GPT-4科普:GPU和FPGA,有何异同ChatGPT 之父最新演讲:GPT-5 聪明程度超乎想象,一大批 AI 公司的努力将毫无意义奥特曼最新万字访谈:GPT-5能力提升超乎想象,算力将成为未来最重要的货币意外!老黄剧透下一代GPU芯片,新演讲又把摩尔定律按在地上摩擦英伟达吞噬世界!新架构超级GPU问世,AI算力一步提升30倍ChatGPT 之父最新演讲:GPT-5 聪明程度超乎想象,一大批 AI 初创公司的努力将变得毫无意义谷歌发布了第六代TPU芯片4家国产芯片领衔,商汤亿咖通在列!智能汽车算力峰会嘉宾阵容大更新,全面拆解算力变局OpenAI掌门人:GPT-4.0让我爱不释手 下代大模型可能不叫GPT-5美股基本面 - 2024_03_09 * 晨报 * 司美格鲁肽首次获批心血管适应证,还有哪些肥胖“共病”治疗潜力?。柏芮朵母公扎克伯格警告:GPU不再缺货,功耗成为大问题GAITC智能传媒专题:新浪新闻携手产学专家共探媒体智能化之路;虽节能潜力巨大,但微软已停止水下数据中心实验项目....苏妈杀疯了:移动端最强NPU算力达50TOPS,最强AI芯片挑战英伟达人活千岁空无诗AI Infra 现状:一边追求 10 万卡 GPU 集群,一边用网络榨取算力​前谷歌大佬离职创业,不到一年造出GPT3.5和Gemini Pro,惨痛忠告:GPU简直菜鸡,就像是买彩票!OpenAI爆炸更新:GPT-4免费了!新模型GPT-4o发布,视觉、语音能力大幅增强,速度起飞,API打骨折微软打破Decoder-Only架构!大幅降低GPU内存需求,网友:把Llama3 70B弄20GB GPU上运行IEEE:GPU很好,但不是唯一我和老伴(六)
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。