AI在科研中的渗透率，1600名科学家这样说

2023-10-13 03:10

海归学者发起的公益学术平台

分享信息，整合资源

交流学术，偶尔风月

最近，《自然》杂志发起一项关于“科学与AI”的研究调查。全球1600名研究人员参与调查的结果显示了他们对于AI的看法：人工智能工具（AI）在科研中的应用越来越普遍，甚至未来有可能发展成为研究的主导。对于这一结果，科学家们所持的态度很复杂，可谓亦喜亦忧。

玩转AI：便利与乐趣并存

首先，科学家们对于AI作为科研工具的使用基本持积极态度。在调查中，大多数人肯定了其价值。面对“未来十年，AI对科研的重要性”的选项时，超过一半的受访者认为，人工智能工具“非常重要”、“必不可少”。

21世纪前十年，机器学习算法的蓬勃发展，建立起了庞大复杂的科学数据集。而在此基础上，20世纪第二个十年，人们开发出了通过学习大规模数据集生成新的原创内容的新型生成式人工智能。自此，大模型的时代到来了。

时代的印记在科研成果中的具体体现为，使用AI的研究论文在各个领域的比例都有所上升。Scopus数据库中在标题或摘要中提到人工智能相关关键词的论文比例从十年前的2%提高到了目前的8%。

伴随着生成式人工智能的快速发展，大语言模型（LLM）可以根据训练数据中的模式产生流畅的输出，包括文本、图像和代码。这些都能为科研工作提供便利。为了满足更多领域的科研需求，一些团队专注于不断测试提升AI的性能，拓展可应用的场景，让它可以帮助更多科学家完成工作，比如产生新的蛋白质结构、精准预报天气、给出医学诊断建议等。

AI系统不断扩展的能力让开发者们感到非常兴奋。在机器学习方面，三分之二的人认为AI提供了更快的数据处理方式；58%的人表示，其提高了复杂运算的效率；55%的人表示，AI有助节省时间和资金。

此外，受访者认为，AI最明显的好处是，帮助研究人员改进研究论文的语法和风格，或总结或翻译其他工作，帮助母语非英语的研究人员展示自己的研究。此外，大家最喜欢AI的是它带来的、与研究无关的创造性乐趣，比如拟一份健康食谱。

虽然，在科研中玩转AI给科学家们带来了不少便利和乐趣。但事实上，经常在工作中使用文本生成AI的研究人员仍是少数。开发AI的研究人员中，每周用一次以上的人约占28%；不参与开发但是使用AI的研究人员中，13%的人曾经用过此类工具；不使用AI做科研的人中，有1%也曾经用过AI工具。

未来的隐忧：偏差、欺诈、依赖

虽然AI工具为科研工作带来了种种好处，但研究人员普遍担心其对科研产生负面的影响，特别是对未来长期、更深远的影响。

由于AI的“黑匣子”运行系统并不透明，大多数人根本不知道AI究竟是如何得出的最终结果。在可能产生的负面影响选项中，69%的人认为，人工智能工具会让人产生依赖性；58%的人认为会加深数据中的偏见或歧视；55%的人觉得使用这些工具会让欺诈变得更容易；53%的人认为，考虑不周的使用会导致研究结果无法复制。

这样的担忧尤其体现在对大型语言模型的使用上。

聊天机器人ChatGPT和LLM是研究人员印象最深、最常用到的AI工具，同时它们也是最令科学家感到担忧的。紧随其后的是蛋白质折叠人工智能工具，如AlphaFold，它可以根据氨基酸序列创建蛋白质的3D模型。在可能产生的负面影响选项中，68%的研究人员担心使用不当会导致错误信息的扩散；另有68%的人认为使用AI会使抄袭变得更容易，更难被发现；66%的人则担心论文会因此而出问题。

受访者补充说，如果医疗诊断的人工智能工具是基于错误的数据进行训练的，那么则会产生更为长期、深远的影响。比如美国的一个团队报告称，当他们要求LLM GPT-4为一系列临床病例研究提出诊断和治疗建议时，给出的方案却因患者的种族或性别产生了差异。

软件工程师伊莎贝拉·德根（Isabella Degen）正在英国布里斯托尔大学攻读医学AI博士学位。她说：“大型语言模型的滥用常导致不准确、空洞的结果。在我看来，很难界定‘滥用’和‘用好’之间的界限。”

一位使用LLM编辑论文的研究人员表示，AI复制了人类的不良写作习惯——描述很多但表达很少；还有人认为，广泛依靠AI来做科研，科学将从“以人为中心”转变为“以机器为中心”。

科学家们的担心并非杞人忧天。如果AI最终动摇了我们对原始科学文献的信任，那么，我们将最终失去全人类共同知识库的基础。

前进的障碍

此次调查中，约有一半的科学家表示，目前尚不能随心所欲地使用或者开发人工智能。开发者担心缺乏计算资源、工作资金和运行人工智能的高质量数据；使用者怕不能得到专业的训练，同时对于安全和隐私方面的问题抱有怀疑。

此次调查提出了人们广泛认为的七种人工智能对社会的潜在影响。其中，人工智能被用来传播错误信息是研究人员最担心的。

有科学家一再警告说，在科研中滥用人工智能工具可能会导致错误、误报、不可复制的发现，不但不能提高工作效率，反而会浪费时间和精力。曼哈顿堪萨斯州立大学的计算机科学家Lior Shamir认为，人工智能造成的损失大于帮助。如果科学家没有搞清楚自己需要什么就贸然使用AI，无疑会导致错误的发现。

在审查期刊论文方面，编辑和同行评审员能否用“火眼金睛”把关？受访者对此存在意见分歧。在使用者中，约一半的人直言“不知道”；四分之一的人认为审查得出来；另外四分一的人认为查不出来。其实，能不能审查出来，关键在于能否找到既熟悉机器学习方法又熟悉其应用的人来担任编辑工作。这样的专业人员并不好找。

还有一个绕不开的问题是，商业公司主导着人工智能的计算资源和人工智能工具的所有权。

在大模型时代，掌握了数据便掌握了新时代的生产资料。当关键生产资料被商业公司所垄断，他们将拥有比想象中更为庞大的权力。在此次调查中，一半的受访者表示，在工作中无法避免与这些公司展开合作。研究人员需要访问数据、代码和元数据，就必须与商业公司打交道。这意味着监管机构亟须迎头赶上。

总之，虽然目前人工智能工具尚存在着这样或那样的问题，但是，仍然有许多研究人员肯定了人工智能工具有其继续存在的价值。最重要的是，现在是时候把人工智能的开发和使用纳入监管系统，让它可以安全地被运用到科研领域中，造福人类社会，而不是成为“潘多拉的魔盒”助长虚假、欺诈和谬误之风，蛀蚀科学的根基。只要人工智能能被正确地使用，科学和人类都将从中受益。