当合成生物学遇上AI，生物安保风险需警惕

科技

2023-10-10 04:10

◆ 例如，恶意行为者可能利用合成生物学技术，有针对性地编辑肠道菌群中影响免疫功能的微生物，通过空气、水或者食物传播，削弱人体免疫力。一旦这样的做法被恶意行为者进行工程化改造，则可能引发大规模的病毒感染风险

◆ 专家指出，人工智能技术帮助合成生物学克服的一个基本挑战，即从海量复杂体系中寻找最优解

◆ 由于在人工智能的帮助下进入合成生物学研究领域的非专业群体可能不隶属于任何研究机构或组织而被科学共同体及机构审查和管理排除在外，因此其引发的生物安全风险会更加难以监测和管理

◆ 恶意行为者可能通过欺骗方式绕过人工智能保护措施，利用ChatGPT获取具有大流行潜力的病毒序列、组装病毒基因组的技术、必要的实验室用品和可以提供这些设备的公司等信息，这些都可能使已知病毒变得更加危险

◆ 在麻省理工学院的一项课堂测试中，ChatGPT在一小时内提出了4个潜在的大流行病原体，并帮助学生确定了哪些病原体杀伤力最大，提供了可能协助进行DNA合成的公司名单，甚至还告知学生们如何欺骗这些公司来获得服务

文 |《瞭望》新闻周刊记者张建新栗雅婷

抗癌药物、可再生生物燃料、尝起来像肉的无肉汉堡、已灭绝花朵的香味……近几年，蓬勃发展的合成生物学正在悄然改变人们的生活。

合成生物学是一门结合生物学、工程学和计算机科学的跨学科领域，旨在设计和构建具有新功能的生物系统。“合成生物学就像奶牛产奶的过程。”有业内人士曾这样解释合成生物学的研究内容，“在合成生物学中，底盘细胞相当于奶牛，各种原料相当于低价值的草料。研究人员通过基因编辑技术改造底盘细胞，添加低廉原料后经过发酵等一系列工艺产生的高价值的化学或生物原料，就相当于生产牛奶”。

合成生物产出的“牛奶”在医疗健康、化工、农业、食品等多个领域具有广泛的应用场景。麦肯锡咨询公司曾发布数据，预计到2025年，合成生物学与生物制造的经济影响将达到1000亿美元；2030～2040年，合成生物学每年带来的经济影响将达到1.8万亿～3.6万亿美元。

随着人工智能（AI）技术的快速发展，越来越多的研究者开始探索将AI应用于合成生物学，进一步促进了合成生物学在化学品制造、新颖材料、人类健康及环境保护等方面的进步。

然而，人工智能与合成生物的深入融合也在一定程度上带来了更多风险。在接受《瞭望》新闻周刊记者采访时，天津大学生物安全战略研究中心副教授王方忠表示，人工智能可能诱发更多生物安保风险，如加大生物安全风险概率、提升生物安全风险危害程度等。

专家指出，降低生物安保风险需要从加强生物防御战略部署、重视相关领域人才培养、提高合成产品监管力度等方面着力。

人工智能赋能合成生物学发展

合成生物学的目的是设计符合标准的生物系统，基于工程设计原则，利用工程可预测性控制复杂系统构建的“设计－构建－测试－学习”循环（DBTL）逐渐成为合成生物学的核心策略。在生物制造领域，DBLT循环四个阶段循环往复可以成功构建需要的细胞，生产出合适的产品。

随着人们对“牛奶”需求的不断提高，人工智能技术被引入并应用于合成生物学研究领域。当前，人工智能已在基因线路、代谢工程、基因组工程等合成生物学领域广泛应用，既有助于提升生物工程的研发效率，还能够降低研究门槛，成为推动合成生物学发展的有力工具。

——提升生物工程研究效率。

8月9日，实验与临床医学领域的重要期刊《临床药理学与治疗学》刊发了一项研究，介绍了一款人工智能临床试验预测引擎inClinico及其准确预测的多项临床试验Ⅱ期至Ⅲ期转化结果。

“目前，有超过半数的Ⅱ期临床试验都以失败告终，导致数千亿美元和多年的努力付诸东流。临床试验失败背后有着许多复杂的原因，而人工智能在解决这个问题上有着得天独厚的优势。”该论文作者认为，借助AI工具准确预测临床试验Ⅱ期至Ⅲ期的转化成功率可以帮助研究者在药物发现过程中更早地引导临床试验取得成功结果。

专家指出，人工智能技术帮助合成生物学克服的一个基本挑战，即从海量复杂体系中寻找最优解。此前，由于无法预测生物工程的结果，合成生物学的细胞工程目标（即逆向设计）只能通过大量试错来实现，效率低下，而人工智能可以利用公开数据和实验数据来预测结果。

不仅是在数据分析与预测方面，人工智能还有助于在合成生物的基因组设计与优化、蛋白质工程与设计、生物系统模拟与优化等各环节提升工作效率、降低成本，缩短研发周期。

例如，人工智能可以帮助研究人员处理和分析大规模的生物数据，包括基因组、蛋白质组和代谢组等信息。利用机器学习和数据挖掘技术，人工智能可以从海量的信息中发现模式和趋势，用以预测生物系统的行为和反应。

“目前已有科学家通过小规模的试验结果或利用数据库中存储的病毒基因序列构建人工智能模型，在不破坏病毒其他特征的基础上预测病毒突变后是否会逃逸人类免疫系统检测。”王方忠介绍，目前该研究已在禽流感病毒、HIV病毒等建立相关模型。随着更多病毒序列的发现和公布，预计会有更多针对不同种类病毒的预测突变模型出现。

——降低合成生物学研究门槛。

近日，一网友发布了自己与ChatGPT关于合成生物学的对话。对话内容显示，ChatGPT不仅可以回答“如何向一个八岁的孩子解释合成生物学”“年轻人如何开始从事合成生物学”等相对具有科普性质的问题，还可以回答“设计一个能够在大肠杆菌中高浓度表达GFP的基因序列”等专业问题，让学习者学习合成生物学相关专业知识的难度大大降低。

与此同时，基于人工智能技术的合成生物技术服务不断商业化进一步降低了合成相关产品的难度。例如，目前已有生物科技企业可以为客户提供合成新物质的整体设计方案、利用人工智能与生物计算技术进行虚拟筛选并进行规模化量产。在人工智能的帮助下，合成生物学技术具有了更广泛的可及性。

业内人士指出，随着低成本且简单实用的实验工具的成熟、生物技术知识的通俗化，合成生物学研发的开源化以及新型生物设计—建造机构的成立，合成生物学研究领域不仅仅是高技能、具有丰富的生物医学知识的高级专家的领地，而且会吸纳大量没有生物学经验的科学家或业余爱好者参与进来。

诱发更多生物安保风险

2017年，一位加拿大病毒学家仅花费10万美元就合成出了天花病毒的“近亲”马痘病毒，引发人们对于“天花病毒是否会卷土重来”的担忧。

在人工智能促进合成生物学快速发展的同时，也可能导致生物安全风险概率的加大、危害程度的提升，给现有生物安全和生物安保治理带来更多挑战。

值得关注的是，由恶意行为者故意释放生物制剂或材料造成的生物安保风险也可能在人工智能的辅助下进一步扩大。

——加大生物安全风险概率。

业内人士认为，人工智能与合成生物学的结合在降低研究门槛的同时，也增加了合成生物被恶意使用的概率。

“恶意行为者只需要具备基本的代码运行能力便可将一个有用的医学工具转变为可能致命分子的生成器。”王方忠说，恶意行为者利用开源模型代码和公共数据库即可完成创建新毒素数据库。

记者在调查中发现，在公开学术期刊及网站上，已有大量关于如何利用人工智能技术优化化学品合成通路遗传设计的方案。例如，有文章介绍了通过颠倒机器学习模型的使用逻辑对特定毒性分子进行建模从而在6小时内驱动模型创造出4万个新毒素分子的方法。

“在人工智能的助力下，合成新毒素的时间成本和经济成本只会更低，所引发的生物安保风险也会更加隐蔽。”王方忠说。

此外，天津大学生物安全战略研究中心副教授薛杨认为，由于在人工智能的帮助下进入合成生物学研究领域的非专业群体可能不隶属于任何研究机构或组织而被科学共同体及机构审查和管理排除在外，因此其引发的生物安全风险会更加难以监测和管理。

——增加生物安全风险危害程度。

增强病毒免疫逃逸能力是增强病毒毒性的重要手段，在人工智能的帮助下，这将变得不再那么困难。

专家向记者介绍，一些毒素的合成可能会带来病原体毒力提升或非致病病原体致病、病原体传播能力提升、病原体宿主改变、诊断措施无效、疫苗无效、抗生素耐药性等风险，而这些情况的出现可能对人体产生致命影响。

例如，恶意行为者可能利用合成生物学技术，有针对性地编辑肠道菌群中影响免疫功能的微生物，通过空气、水或者食物传播，削弱人体免疫力。一旦这样的做法被恶意行为者进行工程化改造，则可能引发大规模的病毒感染风险。

“当前，我们识别及归因攻击的能力较弱，消减措施也不足，即使是轻微的恶意操作肠道微生物菌群，也可逐渐改变人的生理和行为能力。”天津大学生物安全战略研究中心主任张卫文说。

此外，人工智能聊天机器人也可能被恶意利用，成为增强已知病毒毒性的工具。

在麻省理工学院的一项课堂测试中，ChatGPT在一小时内提出了4个潜在的大流行病原体，并帮助学生确定了哪些病原体杀伤力最大，提供了可能协助进行DNA合成的公司名单，甚至还告知学生们如何欺骗这些公司来获得服务。

“恶意行为者可能通过欺骗方式绕过人工智能保护措施，利用ChatGPT获取具有大流行潜力的病毒序列、组装病毒基因组的技术、必要的实验室用品和可以提供这些设备的公司等信息，这些都可能使已知病毒变得更加危险。”王方忠说。

降低生物安保风险需多方努力

多位受访专家指出，尽管合成生物学与人工智能深度融合可能存在一定生物安保风险，但不应“因噎废食”。政府、学术界、产业界应共同努力，采取“谨慎预防”和“产品导向”相结合的方式制定对策方案，保证技术进步的同时最大程度减少风险发生。

加强生物防御战略部署。王方忠建议，政府相关部门应加强生物防御战略部署，研究制定长期发展规划，重视相关领域研究，加大政策和资金支持力度。推动建立生物安全国家高端智库，形成生物安全高端人才汇聚地。

此外，专家建议学术界应努力增强从业人员风险意识和责任感，将相关安全培训纳入项目申请、审批和实施阶段。从业人员应尽可能提高风险识别、评估、应对及消减能力。

重视相关领域人才培养。张卫文表示，应重视相关领域的人才培养与教育，将更多具有相关专业知识和经验的政府、学术界、产业界人员吸收到现有的合成生物学风险管理体系中，完善风险审查和咨询专家库。同时，要注重培养下一代具有国际视野的人工智能和合成生物学风险管理专业人才，实现人才不断更新迭代。

提高合成产品监管力度。薛杨建议，人工智能技术在合成生物领域的应用使得化学武器与生物武器的界限进一步模糊。有关人士表示，应鼓励建立人工智能与合成生物学深度融合产生的风险报告机制，建立化学合成或生物合成“白清单”和“黑清单”，要求从事化学或生物合成的公司及高通量筛选公司应根据清单内容，决定是否提供服务。

此外，产业界应差异化推动合成产品商业化进程，尽快推进相关法律法规出台，明确各类产品申报、审批及市场准入标准。

刊于《瞭望》2023年第40-41期

延伸阅读

☞ 视野丨西方军队如何应用人工智能

☞ 瞭望｜七个关键词解码生物经济

监　制 | 潘　燕

编　辑 | 唐朵朵

关注 ▼

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。

来源: qq

点击查看作者最近其他文章