1张更比20张强!两位00后组图挑战英伟达公众号新闻2024-07-07 11:07史上最快Transformer芯片诞生,英伟达地位或将不保!就在前几天,芯片初创公司Etched宣布完成1.2亿美元的A轮融资,并且在同一天发布了世界上第一个基于Transformer架构的专用芯片“Sohu”。据说,这款芯片在跑Llama 70B时,每秒可生成高达500000个token的输出,相当于可以在两秒内写完一本《水浒传》而这样的成绩:是8张英伟达B200的10倍;是8张英伟达H100的20倍。换句话说,1张Sohu约等于10张英伟达B200;或者20张英伟达H100。更关键的地方在于,不管是OpenAI 的GPT系列,还是谷歌的PaLM,又或者是Facebook的LLaMa,眼下几乎所有头部AI公司都在使用Transformer架构。这意味着,Sohu芯片将可以大幅降低极大多数AI企业的运营成本。而据Etched创始人透露,目前已经有匿名客户预订了数千万美元的硬件。讲到这里,如果你觉得还不够震撼,那么我们再换个角度,试想一下,如果AI模型一夜之间速度提高20倍且成本降低,将会发生什么?实话讲,这样的革命性产品的影响,我很难想象,所以只好借用Etched官方的话:“就Transformer而言,Sohu是有史以来最快的芯片,没有任何芯片能与之匹敌!”大家都知道,放眼全球,半导体行业多年来一直被英伟达和超微垄断,自打AI火爆全球之后,两家企业那是赚得盆满钵满,尤其是英伟达,前不久市值一度超越3.3万亿美元,超过微软成为全球第一。而这一次,Etched如同神兵天降,必然会对半导体行业格局带来不小的影响。但令人我怎么也想不到的是:在这家一鸣惊人的芯片企业背后,站着的居然是两个00后“辍学”青年。作为两位创始人之一,Gavin Uberti(加文-乌贝蒂)是个“数学怪”,不仅高中时就拿下了美式数学竞赛冠军,并且在2020年顺利考入了哈佛。和Gavin Uberti一样,Etched另外一位创始人华裔小伙Chris Zhu(克里斯-朱)也是个“天才”,读书期间,就在哈佛和麻省理工担任教员和辅导员了。2022年初,Gavin选择休学一年,跑出去给人打工,在知名机器学习公司OctoML担任软件工程师期间,Gavin注意到Arm指令集中的一个bug,会大大降低处理器的工作效率。这一发现,让Gavin萌生了创业的念头。于是,他拉上Chris Zhu以及另一位校友,正式成立了Etched,并押注了Transformer专用芯片这一领域。这里有个非常关键的信息:那就是在Etched成立的时候,ChatGPT还没有问世,并且市面上大多生成模型用的都是U-Net、CNN之类的架构,基于Transformer架构的大模型几乎没有。但这两位小哥愣是坚信——Transformer大模型将会统治世界,并且,他们还在Etched官网写到:“如果未来 Transformer 消失或被取代了,我们就会死;但如果它继续存在,我们就会是有史以来最大的公司。”毫无疑问,从目前来看,他们赌赢了,并且,随着融资越来越顺利,手里的筹码越来越多,属于Etched“疯狂时代”或将加速上演! 微信扫码关注该文公众号作者戳这里提交新闻线索和高质量文章给我们。来源: qq点击查看作者最近其他文章