首席分析师揭秘爆火Groq,每小时要烧168美元!10倍H100拥有成本,老黄笑而不语
新智元报道
新智元报道
【新智元导读】SemiAnalysis的行业专家对最近爆火的Groq推理系统进行了像素级的拆解,测算出其持有成本依然高达现有H100的10倍,看来要赶上老黄的步伐,初创公司还有很多要做。
Groq构架解密
和英伟达H100的成本对比
英伟达的后手
挑战
挑战一:处理极长的上下文信息
挑战二:推测性解码等技术的快速发展
挑战三:英伟达更强的GPU即将发货
微信扫码关注该文公众号作者
戳这里提交新闻线索和高质量文章给我们。
来源: qq
点击查看作者最近其他文章