Redian新闻
>
谷歌TPU芯片论文,真实性存疑

谷歌TPU芯片论文,真实性存疑

公众号新闻

来源:hpcwire,谢谢。

谷歌发表的一篇有争议的研究论文声称人工智能技术在制造芯片方面具有优越性,但其主张的真实性正在受到密切关注。科学出版物《Nature》正在调查谷歌的说法,即人工智能技术帮助其在不到六个小时内进行平面规划或建立其人工智能芯片的基本结构,比人类专家更快。

 

《Nature》在这篇论文上加了一个编辑的注释,表示:“读者请注意,本文中的性能声称已经受到质疑。编辑们正在调查这些问题,如果适当,调查完成后将采取编辑行动。”

 

该论文最初发表于 2021 年,涉及使用 AI 构建其张量处理单元 (TPU) 的一个版本,该公司正在其云数据中心中将其用于搜索、地图和 Google Workspace 等应用程序中的 AI。

 

研究人员Anna Goldie(该论文的 20 位作者之一)在 Twitter 上将有问题的芯片识别为 TPU v5 。《Nature》在这篇论文中打上了星号。


谷歌TPU板。来源:Google,“Google Cloud TPU 数据中心内部”视频

 

谷歌表示,其目的不是取代人类设计师,而是展示人工智能如何成为加速芯片设计的协作技术。

 

TPU-v5 的一个版本 TPU-v5e于上个月推出,现已在 Google Cloud 中提供。  

 

这是谷歌发布的第一款人工智能芯片,附带一套软件、开发和虚拟化工具,以便客户可以预算和管理人工智能技术的编排和部署。新的AI芯片与Nvidia的H100 GPU竞争,并继承了上一代TPUv4,后者用于训练PaLM 2大型语言模型。

 

这篇备受争议的研究论文从一开始就遇到了麻烦。该论文的优点在内部受到质疑,该论文的一位直言不讳的作者 Satrajit Chatterjee被解雇,并对谷歌提起不当终止诉讼。

 

谷歌研究人员表示,该论文已经通过同行评审。但在独立研究人员的挑战下,这项研究并没有得到很好的支持。

 

谷歌因只发布极少量的与研究相关的信息,并拒绝全面发布数据以供公众监督的呼吁而受到批评。该公司最终在GitHub上放置了有限数量的信息。

 

该研究提供了一个框架,可以使用深度强化学习来对芯片进行布局规划或奠定 TPU-v5 芯片的构建模块。该论文围绕使用人工智能在逻辑点放置执行特定宏功能的大型电路块来生成芯片设计。宏布局对于芯片设计至关重要,也是一个非常具有挑战性的过程。

 

谷歌的强化学习技术使用输入信息(例如由连接的电路组件组成的电路网表)和数据(例如为线轮配置可用轨道)开发了一种芯片设计。输出是一个干净的芯片设计,有利于良好的宏布局。 

 

在六个小时内,谷歌就能够在特定的功率和性能范围内的特定区域内将凝聚芯片的构建块组装在一起。随着时间的推移,AI 代理会利用过去的经验来强化当前的知识,从而更好地将芯片模块放置在 10 纳米以下。 

 

谷歌技术使用的学习模型需要 48 小时来训练 200 多个 CPU 和 20 个 GPU,而这些时间并未计入设计芯片所需的总时间。 

 

加州大学圣地亚哥分校计算机科学教授安德鲁·B·卡恩 (Andrew B. Kahng) 是谷歌研究的挑战者之一,他发现谷歌需要更加合作。他批评谷歌不愿意发布关键数据,例如电路训练数据集、基线信息或其他代码,以供其他研究人员重现结果。

 

他必须对谷歌的芯片设计技术进行逆向工程,发现人类芯片设计师和自动化工具有时可能比谷歌的纯人工智能技术更快。今年三月,他在国际物理设计研讨会上发表了一篇关于他的发现的论文,其中详细介绍了涉及人类和标准软件工具的芯片设计,有时速度更快或更有效。不过,他并没有质疑谷歌技术的价值。

 

抛开缺陷不谈,这项研究有助于芯片设计研究,谷歌是少数几家分享其用于芯片设计的人工智能技术信息的公司之一。它建立在 Cadence 和 Synopsys 已经完成的将人工智能引入芯片设计的幕后工作的基础上。AMD 和亚马逊声称在芯片设计中使用人工智能,但尚未讨论他们的技术。

 

诸如《Nature》杂志这次的闹剧并不是谷歌的硬件研究第一次受到关注。谷歌在 2019 年宣称量子霸权,量子计算机的性能超越了经典计算机。谷歌声称,其名为 Sycamore 的 54 量子位系统(其中量子位在 200 秒内排列成二维阵列)解决了传统超级计算机需要 10,000 年才能解决的特定问题。

 

IBM 对这一说法提出异议,称该论文存在缺陷,并且对量子和超级计算性能造成了混乱,并着手反驳谷歌的理论。随后IBM的一篇论文声称,其Summit计算机在额外的二级存储的帮助下,可以实现比谷歌量子霸权论文中宣称的性能高六倍的性能,并在合理的时间内解决问题。

 

谷歌2019年备受争议的量子论文在当时被认为具有开创性,但也是基于闭门实验,并且已经过时了。在随后的几年里,更多的研究人员站出来挑战谷歌的说法。该缺陷在于谷歌将其优化的量子算法与较旧、较慢的经典算法进行了苹果与橘子的比较。

 

目前尚不清楚 TPU v5e 是否是使用强化学习技术设计的,但谷歌声称该芯片的性能优于上一代 TPUv4。 

 

八个 TPU v5e 芯片可以训练具有多达 2 万亿个参数的大型语言模型。本月,谷歌声称“每个 TPU v5e 芯片每秒提供高达 393 万亿次 int8 运算 (TOPS),可以快速预测最复杂的模型”,这意味着该芯片主要是为低杠杆推理操作而设计的。训练通常需要浮点管道。

 

谷歌正试图在人工智能领域追赶微软,微软在其 Azure AI 超级计算机中使用了 OpenAI 的 GPT-4 和 Nvidia GPU。该公司最近将其 Bard 聊天机器人集成到 Google Workspace、网络搜索和其他工具中。Bard 工具在 TPU 上运行人工智能计算。 


点击文末【阅读原文】,可查看原文链接。


*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。


今天是《半导体行业观察》为您分享的第3543期内容,欢迎关注。

推荐阅读


台湾的封装,也要被瓜分

打破英伟达霸权,Meta放了个大招!

ReRAM,旨在替代Nor Flash!


半导体行业观察

半导体第一垂直媒体

实时 专业 原创 深度


识别二维码,回复下方关键词,阅读更多

晶圆|集成电路|设备|汽车芯片|存储|台积电|AI|封装

回复 投稿,看《如何成为“半导体行业观察”的一员 》

回复 搜索,还能轻松找到其他你感兴趣的文章!

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
最高32核CPU、80核GPU,苹果M3 Ultra芯片规格曝光被控谋杀导师!华裔北卡大学博士研究生精神状况存疑,不适合受审其实,这个地方蛮怕万马齐喑的,蛮喜欢百家争鸣的。侵吞全球算力!谷歌Gemini被曝算力达GPT-4五倍,手握TPU王牌碾压OpenAI“开始怀疑世界的真实性”八大道清场!摊贩商品充公 食品安全存疑;华女的卡在外州被刷光知足常乐在美国IPO前分光14亿净利、经营独立性存疑 郑煤机分拆恒达智控冲刺IPOIDF论坛 | 锁链、疆界与解放:国际女性纪录片论坛佛州通过SAT替代方案CLT,华邮:专家对于效力仍存疑注意!“国民梦校”纽约大学强调“申请材料真实性审查”,这些坑尽量不要踩!一雪前耻!谷歌云怒推新 AI TPU、接入 Meta 大模型、工作助手《故乡的春天》&《我会等》如何理解警察执法优先,公民存疑置后?赞成率为75%,Alnylam新药获FDA顾问支持,但获批仍存疑突发!美国限制向中国出口Nvidia H800等先进AI芯片,壁仞科技、摩尔线程等中国GPU芯片企业被列入实体名单《生成式人工智能服务管理暂行办法》实施,8家备案模型生成内容真实性如何?在人行道上吃喝 纽约市户外餐饮将长期季节性存在谷歌云AIGC火力全开!推出新AI芯片TPU v5e,企业AI服务30美元/月,接入Llama 2等大模型踩线满足创业板指标,2022年营收、研发费用真实性存疑?对第一大客户有重大依赖?创业板IPO终止英特尔CEO:不惧怕英伟达或高通 PC CPU芯片清华大学团队刷屏的芯片和论文,对AI意味着什么?揭秘!美国婚姻移民,哪些情况会被质疑婚姻真实性?谷歌芯片的里程碑:OpenAI的竞争对手部署了谷歌自研TPU结构性存款收益率、规模双降,上市公司仍热衷“扫货”华人团队获最佳论文、最佳系统论文,CoRL获奖论文出炉本周必buy | Playtpus季中促销低至5折!匡威Crocs耐克Vans大降价,超多热门款$6X...最新!深交所通报2个IPO现场督导案例,2家财务真实性都被关注第八章第三节 社会组织全新的总体架构谷歌火力全开!新一代芯片TPU v5e炸场,大模型训练飙升5倍,成本砍半骗我一次,算你狠;骗我两次,我活该真实性惊人,谷歌、康奈尔提出真实的图像补全技术RealFill台风天,他们走私数千个 CPU、GPU和存储芯片扔掉okhttp、httpClient,来试试这款轻量级 HTTP 客户端框架,吹爆!顶会CoRL 2023获奖论文出炉!华人团队获最佳论文、最佳系统论文!
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。