Redian新闻
>
研究人员用ChatGPT写完1篇论文仅用1小时!多所高校撤销禁令

研究人员用ChatGPT写完1篇论文仅用1小时!多所高校撤销禁令

公众号新闻





自2022年11月发布以来,许多人都在使用ChatGPT来帮助他们完成工作,各行各业的人都在使用,从撰写营销材料,到起草电子邮件,再到生成报告。

ChatGPT作为一种人工智能工具,在科研中也显示非常大的应用潜力,但人们对在科研活动中ChatGPT的应用范围和伦理仍有争论。

2023年7月7日,Nature新闻栏目发表了一篇讨论性文章,题为《Scientists used ChatGPT to generate an entire paper from scratch — but is it any good?》


文中介绍道:

两位科学家借助人工智能工具ChatGPT,在不到一个小时的时间内撰写了一篇研究论文。

这篇文章流畅、富有洞察力,并按照科学论文的预期结构呈现但研究人员表示,在该工具真正提供帮助之前,还有许多障碍需要克服。


以色列海法工业技术研究所的生物学家和数据科学家Roy Kishony表示,我们的目标是探索ChatGPT作为一个研究“助理”的能力,并引发关于其优点和缺陷的讨论。

他说:“我们需要讨论如何在减少缺点的情况下获得好处。

论文的构建过程介绍


Kishony和他的学生Tal Ifargan(也是一名数据科学家)从美国疾病控制和预防中心行为风险因素监测系统(US Centers for Disease Control and Prevention’s Behavioral Risk Factor Surveillance System)下载了一份公开可用数据集。


数据集包括从超过25万人那里收集到的关于其糖尿病状况、水果和蔬菜摄入量和体育活动的信息。


首先,他们要求ChatGPT编写代码用来发现数据中的模式,以便进一步深入分析。


在第一次尝试中,聊天机器人生成的代码充满了错误,无法工作。但当科学家将错误信息反馈给它,并要求其纠正错误时,它最终生成了可以用来探索数据集的代码。


有了一个更结构化的数据集后,Kishony和Ifargan随后要求ChatGPT帮助他们制定一个研究目标


该工具建议他们探索体育活动和饮食对糖尿病风险的影响。


生成了更多的代码之后,ChatGPT得出结论:多吃水果和蔬菜以及加强锻炼可能会降低患糖尿病的风险。


然后,ChatGPT被要求在表格中总结关键发现,并编写整个结果部分


接着,他们逐步地要求ChatGPT撰写摘要、引言、方法和讨论部分。


最后,他们要求ChatGPT完善文本。



但问题也扑面而来...


尽管ChatGPT生成的论文清晰明了,数据分析也扎实,但Kishony表示:这篇论文还远非完美。


研究人员遇到的一个问题是ChatGPT倾向于通过编造数据来佐证自己的观点,在这种情况下,它产生了虚假的引用和不准确的信息。


例如,耶路撒冷希伯来大学的计算机科学家Tom Hope说,这篇论文指出该研究“弥补了文献中的空白”——这个词在论文中很常见,但在这个案例中不准确。他说,这一发现“不会让任何医学专家感到惊讶,这还不够新颖”。Kishony还担心,这样的工具可能会使研究人员更容易参与欺诈行为,如P值调整(P-hacking)(只报告产生显著结果的那些)。


另一个担忧是,使用生成型AI工具撰写论文的便利性可能导致期刊被低质量论文所淹没。


不过,Kishony补充说,以人类监督为核心的数据转化成论文方法,可能是确保研究人员能够轻松理解、检查和复制方法和发现的一种方式。


澳大利亚南澳大学开发人工智能教育技术的Vitomir Kovanović表示,人工智能工具在研究论文中的使用应该公开表明,否则,很难评估一项研究的发现是否正确。他说:“如果制作虚假论文变得如此容易,我们将来可能需要做更多工作”


麻省理工学院和哈佛大学布罗德研究所的计算生物学家Shantanu Singh认为,生成型AI工具有潜力通过执行简单但耗时的任务(如撰写摘要和生成代码)提升科研效率。


它们可以用于从数据集生成论文或发展假设。但是,由于幻觉和偏见对于研究人员来说很难检测,因此Singh认为,至少在可预见的未来,撰写整篇论文,不会是一个特别好的用途。



牛津、剑桥等解除ChatGPT禁令

24所顶尖大学发布使用原则


其实不久前,还有一位科学家用ChatGPT搞出了一件大事情。美国田纳西大学健康科学中心的放射科医生Som Biswas,在4个月内使用ChatGPT写了16篇论文,并在4个不同的期刊上发表了其中5篇。


2023年3月,《J Med Internet Res》(IF=7.4)在线发表了一项关于ChatGPT的文章,题为Artificial Intelligence Can Generate Fraudulent but Authentic-Looking Scientific Medical Articles: Pandora’s Box Has Been Opened。研究者利用ChatGPT生成了一篇完整的神经外科论文,在用词、句子表述、论文结构方面都与真正的医学论文非常相似,包含1992个词和17篇参考文献,整个文章创建过程大约花了1个小时。


必须说,随着ChatGPT的入局,AIGC(人工智能生成内容)数量井喷,尤其是在学界,ChatGPT更是成为科研人员的得力助手。


值得一提的是,就在7月4日,牛津、剑桥、布里斯托、爱丁堡等24所罗素大学成员集体松口,宣布解除ChatGPT使用禁令推出了详细的使用原则以帮助学生和研究人员更好地使用生成式AI,抓住生成式AI带来的全新教育和发展机遇。


要知道,早在今年3月,学生利用ChatGPT写论文、做作业就已然形成了一股势不可挡的浪潮,英国教育部对此,表示十分担忧,牛津、剑桥、布里斯托、爱丁堡等8所罗素大学成员更是宣布禁止使用ChatGPT。


显然,他们不想错过生成式AI带来的全新教育和发展机遇。



为了帮助学生、科研人员和教职员工在学习和研究中以合乎道德和负责任的方式使用生成式人工智能、新技术和ChatGPT等软件,罗素大学集团发布了生成式人工智能使用指南。该指南包括5项联合使用原则:

  1. 大学将支持学生和教职员工建立良好的人工智能素养。


  2. 教职人员应该具备能力,支持学生在学习过程中,有效且适当地使用生成式AI工具。


  3. 大学将调整教学和评估,以纳入生成人工智能的道德使用,并支持平等获取。


  4. 大学将确保学术严谨性和诚信得到维护。


  5. 随着技术及其在教育中的应用的发展,大学将合作分享最佳实践。

       

罗素集团首席执行官 Tim Bradshaw 博士评论道:“人工智能的突破已经改变了我们的工作方式,至关重要的是,学生获得了建立充实的职业生涯所需的新技能。大学工作人员在研究如何利用人工智能来增强教学并帮助将学科变为现实时也需要支持。”


自从ChatGPT横空出世,其强大的网络搜索引擎在学生中迅速流传开来,查阅复杂文献、代写简单的Python代码、辅助写作思路等。


不能否认人工智能对人类生活能带来的便捷然而,如何有效遏制人工智能的泛滥,达到一种较为理想的共同生存状态,这是我们需要考虑的。


作为一款AI语言模型,ChatGPT能给你提供语法、拼写,乃至论文的结构、逻辑方面的建议。不过,ChatGPT所给的回答都是基于它模型训练的海量数据上,它有时可能会限制我们的思路,甚至有些不准确。


因此,在用ChatGPT助攻论文写作的过程中,把它当作一把锐利的副刀,而不是赖以生存的主刀,效果更好。


来源 | 中洪博元生物



编辑/审核:Andy


发论文,

画不好插图,怎么办?

高质量科研绘图

找【科藤学术中心】@花博士

扫下方二维码⬇⬇⬇以作备用



(扫码关注,注明“需要绘图”,否则通不过!)


微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
70后外科医生,SCI论文仅90+引用;从内地通过EB-1A申请美国绿卡,一个月获批!靠的竟然是这个。。。用ChatGPT写的高考作文,能有985的水平吗?惊呆了!用ChatGPT写论文忘删生成按钮,出版商:撤稿。。。巴黎市长将重修Châtelet 广场以方便行人【城事】巴黎市长将重修Châtelet 广场以方便行人多所高校官宣:研究生学制延长!最高3000元,含2023级新生!多所高校给受灾学生发补助【第二期】“文献计量分析及SCI论文发表”培训:小班授课、一对一辅导;大咖引领、避坑且高效;科研提升为核心、论文仅为小目标。研究人员发布了针对 ChatGPT 和其他 LLM 的攻击生成算法用ChatGPT写诉状?结果竟全是AI胡诌的 4个月,他用ChatGPT写了16篇论文,已发表5篇1篇Science和1篇Nature子刊揭示哺乳动物的寿命与DNA甲基化密切相关真香!陶哲轩:用ChatGPT写代码太省时间了!8点1氪:刘慈欣自曝用ChatGPT写发言稿;QQ音乐豪华绿钻续费价格上调;美国教授称海底住95天后年轻10岁减脂是一个长期工程ChatGPT之父反驳马斯克/高考生喊话取消调休/刘慈欣也用ChatGPT写稿|灵感周报补助受灾学生!多所高校齐发声历史小说《黄裳元吉》第九十五章 寒意凌晨,利空突袭!美联储释放重磅信号,美股跳水!多所高校宣布:撤销禁令!危险信号传来,影响多大?ChatGPT 再次成为焦点:学生放弃导师,改用 ChatGPT 自学!科技与狠活席卷高校?9月GRE正式改版!多所高校不再接受标化家考!绿卡/F/H/J/M等签证在美加办理日本签证指南(单次签证可以在线缴费、行程不要用CHATGPT写)尴尬了!用ChatGPT写论文忘删生成按钮,出版商:撤稿彻底清理学术不端论文存量!多所高校发文大峡谷漂流日记第五天重磅!多所高校官宣将彻底清查学术不端论文!Nature报道:用ChatGPT写论文忘删生成按钮遭撤稿!仅用1个小时,科学家用ChatGPT生成了一篇学术论文丨Nature新闻评价:通畅且富有洞察力用ChatGPT写论文,4个月连发5篇!美国一注射医生战绩震惊医学界!(免费领课)研究人员让ChatGPT写了一篇论文,质量如何?ChatGPT写的论文有多少发表了?搜完谷歌学术以后我慌了最新!多所高校将停用微信支付?微信回应来了!芯片巨头向美国发出警告!俄罗斯:不会将普里戈任引渡至他国早报|视觉中国回应摄影师发自己作品被告侵权;举报新东方的网红直播带货翻车;多所高校将延长研究生学制北大國學大師季羨林(1911年8月6日—2009年7月11日)这个国家已经准备先倒为敬了
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。