“ChatGPT之父”警告AI可能灭绝人类；英伟达发布新型AI芯片GH200｜AIGC周观察第四期

2023-06-02 11:06

整理｜吴莹

让我们一起来回顾一下吧。

“ChatGPT之父”警告AI可能灭绝人类；英伟达发布新型AI芯片GH200；OpenAI训练出最强数学解题模型；AI科学家金榕离开推特加入Meta；新AI应用Character.AI首周下载量碾压ChatGPT；百度设立10亿创投基金促进大模型生态；富士通发布AI平台Fujitsu Kozuchi；传媒巨头CEO严重警告：AI或对新闻业造成致命性破坏……

一起回顾一下吧。

‍

5月31日消息，超过350名人工智能（AI）领域的行业高管、专家和教授签署了一封公开信，他们在信中警告称，AI可能给人类带来灭绝风险。

这封信于周二发表在非营利组织人工智能安全中心（CAIS）的网站上，签署者包括OpenAI首席执行官山姆·奥特曼、DeepMind首席执行官Demis Hassabis、Anthropic首席执行官Dario Amodei以及微软和谷歌的高管等。

这封信只有一段话：“减轻AI带来的灭绝风险，应该与流行病和核战争等其他社会规模的风险一起，成为全球优先事项。”

5月29日，英伟达发布新型大内存AI超级计算机——NVIDIA DGX™超级计算机，由英伟达GH200 Grace Hopper超级芯片和NVLink交换机系统提供支持，旨在为生成型AI语言应用、推荐系统和数据分析工作负载开发新一代巨型模型。据介绍，英伟达DGX GH200的巨大共享内存空间使用NVLink互连技术与NVLink交换系统，将256个GH200超级芯片组合在一起，使它们能够像单个GPU一样运行。谷歌云、Meta和微软是首批预计将获得DGX GH200访问权的客户，以探索其在生成式AI工作负载方面的能力。

6月1日凌晨，OpenAI官方博客发布新的研究进展，在数学推理能力上，研究人员正在通过过程监督的奖励模型揪出大模型的逻辑错误。具体方法是，研究人员使用模型思维链的最终结果对结果监督的奖励模型（ORM）进行训练，而过程监督的奖励模型（PRM）会接收思维链中每一步的反馈训练。

OpenAI的研究人员对结果监督和过程监督进行了更详细的比较，他们使用了更强大的基础模型GPT-4、更多的人类反馈，并在MATH数据集上进行了训练和测试。基于上述条件，研究人员证明了，过程监督的奖励模型能解决MATH测试集代表性子集中78.2%的问题。

5月29日消息，知名AI科学家金榕已从推特离职，并已经入职Meta。业内人士猜测，其离开或与推特大规模裁员有关。消息称，金榕在今年3月入职Meta，在广告部负责推荐排序相关的AI基础设施，同时开拓大型语言模型等方向。

据了解，金榕本科毕业于天津大学，北京大学物理学硕士，后赴卡内基梅隆大学语言技术研究所攻读博士。博士毕业后，于2003年到2014年期间在美国密歇根州立大学计算机科学与工程系任教。2014年7月，阿里在硅谷成立iDST（数据科学与技术研究院），金榕是最早加入的AI大牛之一。之后，金榕又担任达摩院副院长，负责机器智能研究领域。2022年年中，阿里达摩院有多位技术高层出走，其中包括金榕。

AI热潮下，ChatGPT移动端在头六天的下载量就超过了50万次，而另一边，一款AI应用“新秀”似乎正以更猛的势头闪亮登场。

据科技媒体TechCrunch周四报道，Character.AI，一款基于LLM（大型语言模型）的聊天机器人应用，声称在上市不到一周的时间内就吸引了超过170万用户安装。该媒体对比了第三方数据商data.ai和Character.AI提供的下载量数据，发现前者提供的数字更大。

Character.AI是一个聊天机器人平台，上面活跃着马斯克、特朗普等名人的“数字分身”。在这个应用平台上，用户不仅可以与喜欢的角色畅聊，还可以通过快速或高级角色创建模式创建属于自己的AI机器人并与之互动，并能与其他用户创建的角色进行交流。在高级创作中，用户可以输入冗长的“人设”信息或示范聊天内容，赋予机器人更具体、详细、生动的性格。

5月31日，李彦宏在摩根大通全球中国峰会期间宣布，百度将设立10亿元百度文心投资基金，旨在推动大模型生态繁荣；同时启动“文心杯”创业大赛，最高奖项为价值1000万元早期投资。李彦宏认为，中国会有自己的生态系统，拥有自己的大语言模型和基础模型；中国会出现至少一个，也可能是两个或三个基础大模型，可以支持人们开发各种AI原生应用。

6月2日消息，富士通发布AI平台“Fujitsu Kozuchi”，将面向全球企业用户提供一系列AI（人工智能）与ML（机器学习）技术。该平台整合了多种解决方案与工具，包括能够自动生成机器学习模型的Fujitsu AutoML解决方案；用于测试AI模型公平性的Fujitsu AI Ethics for Fairness；用于从各种数据中挖掘复杂因果关系的因果发现技术；用于模拟科学发现过程的Fujitsu Wide Learning；以及支持对合作伙伴公司开源软件（OSS）和AI技术的简化访问。