生物安全专家警告，ChatGPT或能帮助制造下一个大流行病毒

公众号新闻

2023-06-23 09:06

防走失，电梯直达安全岛报人刘亚东A

来源：生物世界

编译丨王聪

ChatGPT，是由人工智能研究实验室 OpenAI 于2022年11月30日发布的全新聊天机器人模型——人工智能技术驱动的自然语言处理工具。ChatGPT能够通过学习和理解人类的语言来进行对话，还能根据聊天的上下文进行互动，真正像人类一样来聊天交流。自推出以来，ChatGPT强大的能力备受关注。2023年3月14日，OpenAI发布升级版的GPT-4，其性能获得了大幅提升。

科技专家一直警告说，人工智能（AI）可能会通过接管从商业到战争的一切来对抗人类。而现在，我们可能还要增加一个新的担忧——人工智能可能会帮助没有科学背景、具有邪恶意图的人设计出一种能够引发大流行的病毒。

最近，麻省理工学院（MIT）的生物安全专家 Kevin Esvelt 进行了一项测试，他要求学生们在ChatGPT或其他大型语言模型的帮助下，创造一种危险的病毒。仅仅过了一个小时，学生们就获得了候选病毒名单，以及能够合成这些病毒基因序列并组装病毒片段的公司名单。

这项测试结果，已于近日发表在了预印本平台 arXiv 上，论文作者表示，这项测试强调了人工智能系统可能很快就会允许非科学家设计生物武器。当然，也有病毒学家认为这有些杞人忧天。

生物安全专家已经在担心，生物学界公开交流信息的文化可能被生物恐怖分子利用。理论上，描述一种已灭绝或正在传播的致命病毒的论文，可以为一种新的生物武器提供蓝图。但到目前为止，要想实现这一目标需要相当多的专业知识。潜在的生物恐怖分子需要识别一种候选病毒作为起点，合成病毒遗传物质，并将其与其他试剂混合，以“启动”一种能够感染细胞并复制的病毒。

然而，这些复杂的步骤正在变得更加容易，例如，通常合成生物学公司会进行筛选以确保订单中没有包含潜在生物武器的遗传物质，但现在的新型DNA打印机能够绕过这一点。心怀恶意的人可以将由DNA打印机合成的基因片段发给外包服务公司（CRO），让它们组装出目标病毒。当然，要真正引发一场大流行，还需要大规模制造病毒，并找到一个有效的递送系统。

人工智能技术的快速进步，正在进一步降低上述壁垒。为了进行调查，Kevin Esvelt 将一群没有生命科学专业知识的研究生分成三组，每组3-4人。每组都可以访问GPT-4、Bard（谷歌开发的AI聊天机器人）以及其他AI聊天机器人，并有1小时的时间要求聊天机器人帮助他们设计和获取能够引起大流行的病原体。

一些聊天机器人不会回答这些危险的询问，但学生们发现，这种保护措施很容易被绕过，比如他们可以说自己正在开发疫苗来预防这些危险病毒。在一个小时内，聊天机器人就提供了四种病毒——1918年H1N1流感病毒、2012年H5N1禽流感病毒、大天花病毒和尼帕病毒的一种毒株。在某些情况下，聊天机器人甚至还指出文献中报道的基因突变来增加传播。

这些聊天机器人还描述了根据病毒基因序列组装病毒的技术，以及必要的实验室用品和可以提供这些设备的公司。最后，聊天机器人甚至列举一些公司可能愿意在不进行筛选的情况下合成遗传物质，并与实验室签订合同，帮助将这些材料组装在一起。

研究团队怀疑这些聊天机器人的建议是否会构成大流行威胁。例如，现代人对以前的大流行性流感病毒有一定程度的免疫力。而天花病毒庞大的基因组连专家都难以组装。但他们也认为，随着越来越多关于生物威胁的文献被纳入人工智能训练数据，这项实验突显了人工智能和其他工具如何使潜在的恐怖分子更容易释放新的威胁。

Kevin Esvelt 认为，对聊天机器人和其他人工智能引擎进行信息限制可能会有所帮助。例如，将描述创造和增强病原体配方的极少数论文排除在人工智能训练集之外。他在预印本论文中写道，从人工智能训练集中删去这些论文（不足PubMed上论文总数的1%）就足以消除几乎所有的风险。当然，这么做也是有代价的，人工智能将不能利用这些论文以积极的方式推进生物学。但这么做能够防止技术的滥用。

其他保障措施还包括要求所有基因合成公司和未来的台式DNA打印机对已知病原体和毒素的遗传物质进行筛选，并要求CRO公司验证被要求组装的任何遗传物质的安全性。

但西奈山卫生系统的病毒学家 Gustavo Palacios 认为没有必要为此惊慌，启动一种病毒比描述的更具挑战性，而认为CRO公司会创造生物武器的想法也是荒谬的。

参考资料：

https://arxiv.org/abs/2306.03809

https://www.science.org/content/article/could-chatbots-help-devise-next-pandemic-virus

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章