道高一尺魔高一丈,这个亚裔大学生做出了检测AI写作的应用

据NPR1月9日报道 担心学生拿人工智能聊天机器人来代写论文的老师现在有了自己的新工具。

22岁的爱德华·田(Edward Tian)是普林斯顿大学的大四学生，他开发了一款应用程序，可以检测文本是否由ChatGPT代写。ChatGPT是一款广为流传的聊天机器人，人们担心它可能会在学术界被用于不道德的用途。

图说：22岁的爱德华·田是普林斯顿大学计算机科学专业的学生。

田是计算机科学专业的学生，辅修新闻学。他利用寒假的一部分时间创建了GPTZero，他说这个程序可以“快速有效地”破译一篇文章的作者是人类还是ChatGPT。

他创造这款机器人的动机是为了对抗他认为越来越多的人工智能抄袭。自11月底ChatGPT发布以来，已经有报道称，学生们使用这一突破性的语言模型，把人工智能写的作业当作自己写的。

“现在有太多的聊天应用。这个和那个是人工智能写的吗？作为人类，我们应该知道！”田同学在一条介绍GPTZero的推文中写道。

田说，1月2日他的机器人在网上发布后，许多老师都联系了他，告诉他他们检测机器人的积极结果。

GPTZero发布一周内就有超过3万人试用。它太受欢迎了，导致应用程序一度崩溃。承载GPTZero的免费平台Streamlit已经介入，为田提供了更多的内存和资源来处理网络流量。

GPTZero的工作原理

为了确定一段摘录是否由机器人写的，GPTZero使用了两个指标：“困惑度”和“突发性”。困惑度衡量文本的复杂性；如果GPTZero对文本感到困惑，那么它具有很高的复杂性，更有可能是人类编写的。然而，如果机器对文本更熟悉——因为它已经接受过此类数据的训练——那么它的复杂性就会较低，因此更有可能是人工智能生成的。

而突发性比较句子的变化。例如，人类在写作时具有更大的随机性，比如写几个短句时夹杂几个更长的或复杂的句子。AI的句式往往更加统一。

在一段演示视频中，田同学比较了ChatGPT对《纽约客》一篇文章的分析和ChatGPT在领英上发表的一篇文章。它成功地区分了人类和人工智能的写作。

田承认，正如一些用户在测试时反映的那样，他的机器人并非万无一失。他说，他仍在努力提高模型的准确性。

但通过设计一款能够揭示人类与人工智能区别的应用程序，这款工具有助于田同学实现一项核心使命：为人工智能带来透明度。

“长期以来，人工智能一直是一个黑盒子，我们真的不知道里面发生了什么，”他说。“有了GPTZero，我想开始反击和对抗这种情况。”

遏制人工智能抄袭的努力

在遏制人工智能抄袭和伪造的竞赛中，这位大四学生并不是唯一一个。ChatGPT的开发商OpenAI表示，将致力于防止人工智能抄袭和其他不法应用。上个月，目前专注于OpenAI人工智能安全的研究人员斯科特·阿隆森透露，该公司一直在研究一种方法，用“不为人知的秘密信号”为ChatGPT生成的文本打上“水印”，以识别其来源。

开源人工智能社区Hugging Face推出了一个工具，可以检测文本是否由GPT-2创建，GPT-2是用于制作ChatGPT的人工智能模型的早期版本。南卡罗来纳州的一位哲学教授碰巧知道这个工具，他说他用它抓出了一个学生用人工智能代写的作业。

纽约市教育部门上周四表示，由于担心“对学生学习的负面影响，以及对内容安全性和准确性的担忧”，他们将在学校网络和设备上阻止ChatGPT的访问。

田同学并不反对使用ChatGPT等人工智能工具。

他说，GPTZero“不是为了成为阻止这些技术被使用的工具”。“但对于任何新技术，我们都需要能够负责任地采用它，我们需要有保障措施。”

转载来源“纽约华人资讯网”