WAIC “探宝” | 这块高颜值加速卡,终于藏不住了
2023 WAIC
这两天,有“AI春晚”之称的
世界人工智能大会
在上海世博展览馆召开
这种行业盛会,小编我怎么能错过
出!发!
一走进展馆,就有9道光柱“冲天而起”。惊,怎么,是小当家做好饭了吗?定睛一看,原来是本届大会评选的九大“镇馆之宝”。
镇馆之宝
每一个看起来,都是超酷黑科技。其中就有我们的当家法宝:Graphcore® C600 IPU处理器PCIe卡。
想要了解更多关于C600的信息?接下来,小编就带你们一起一探究竟。
走进Graphcore(拟未)的展台,这里有正在进行中的展台演讲,有生成式AI模型现场演示。
展台一角人头攒动,我奋力挤进去,顺利地找到了传说中的镇馆之宝。
之前没有人告诉我C600这么好!看!啊!
在初次见面的冲击过去之后,我发现这块加速卡不止于高颜值。
这款主打推理,兼做训练的产品支持FP8浮点运算,是行业中率先引入FP8的产品之一。它可以提供FP8浮点运算560 TFLOPS的强大AI计算能力,让推理结果瞬息而至,快速响应用户需求。
C600已经成功支持15亿参数的GPT2-XL,推理延时已经达到1 ms/token。这种强力的“推背感”,让我在三十多度的高温里,体会到了一种,风驰电掣,呼啸而过的清凉感觉。
C600还入围了2023 SAIL奖TOP30榜单。
这块小小的加速卡中,凝聚着许多先进技术。
C600的性能优势主要来自其独特的基于SRAM的近存计算架构。C600是在Graphcore经典的Wafer-on-Wafer MK2 IPU的基础上,增加了用于低精度和混合精度AI的FP8。
去年3月,Graphcore推出了世界上第一款3D Wafer-on-Wafer处理器——Bow IPU。Graphcore通过封装实现了性能及功耗比的进一步提升,为处理器的发展提供了工艺之外封装道路上的又一新实践。
为了帮助AI从业者真正实现模型落地,Graphcore还推出了PopTransformer和PopRT等许多工具,帮助AI从业者应对模型部署挑战。
古人说,世之奇伟、瑰怪,非常之观,常在于险远,非有志者不能至也。
这次探宝之旅如此,科技的发展也是如此。
这次探宝之旅圆满结束
以后的AI“探宝”之旅中
还希望能和更多志同道合的小伙伴们一起
携手共拟智能未来
获取更多Graphcore资讯,阅读深度技术文章,并与其他创新者们一起交流,请至中国官网graphcore.cn,以及关注Graphcore微信、微博和知乎创新社区。
Graphcore中国官网
Graphcore官方微信
Graphcore微博创新社区
Graphcore知乎创新社区
微信扫码关注该文公众号作者