2023年初,一款名为“GPTZero”的应用悄然上线。这款应用由普林斯顿大学一名名为爱德华·田(Edward Tian)的学生开发,他创建这个应用是为了回应前段时间爆火的ChatGPT,帮助人们辨别文字内容是人类书写还是ChatGPT生成,后者已于本月被纽约教育部禁用。
爱德华·田今年22岁,是计算机科学专业大四的学生。去年在一次演讲中,他的论文导师在全班面前展示了一组文本,并要求学生区分哪些是人类写的,哪些是人工智能生成的。许多学生猜错了。因此,爱德华意识到有个问题需要解决:帮助人们分辨文本的作者是机器还是人类。
他利用寒假的时间开发了GPTZero,该应用程序的工作原理是查看文本中的两个变量——困惑度和突发性——并为每个变量打分。
首先,该应用程序会根据需要测试的文本和其训练文本的相似度来做出初步判断:如果需要测试的文本和数据库中已有的文本越不相似,那么它就“更有可能是人类写的”。
此后,GPTZero会统整文本中的变化程度,例如文本是更平整、统一还是有较多的长短句混用?“一篇由人写的文章会有很大的变化,”爱德华说。“它(的统一度)会忽上忽下,会突然出现峰值。”
爱德华仍在致力于改进GPTZero,但他已经发布了一个测试版供公众使用。1月3日,他发布了一条推文,演示了这款应用如何成功地分辨出《纽约客》杂志发表的文章和ChatGPT写的信。
后来爱德华还使用了BBC部分稿件的标题,使用ChatGPT撰写文章,并在GPTZero中进行了测试。他说,GPTZero成功猜出了文本之间的差异,误报率不到2%。
自推出以来,GPTZero已经被成千上万的人使用。爱德华表示自己已经被世界各地的老师和大学招生官员都联系,“他们对这种方法很感兴趣。”
今年年初,由于ChatGPT带来了越来越多的学术造假,美国纽约市教育部正式禁用ChatGPT,以保护学术诚信。该教育部发言人 Jenna Lyle 出面解释:“由于担心对学生学习的负面影响,以及对内容安全性和准确性的担忧,我们将限制在纽约市公立学校的网络和设备上访问 ChatGPT。”
此外,纽约市、巴尔的摩县、弗吉尼亚州的劳登县和阿拉巴马州的蒙哥马利县也开始限制学生访问ChatGPT。
劳登县发言人丹·亚当斯(Dan Adams)表示,弗吉尼亚州学校的工作人员目前正在禁止学生从网络或电子设备上访问ChatGPT,以“保持模范教育工作者的地位”,他们“期望学生被呈现的作品达到最高水平的诚实”。
此外,还有人担心ChatGPT会抢走作家和创意人员的工作,或者被黑客用于更邪恶的目的,编写恶意软件。也因此,虽然GPTZero是为了打击学术抄袭而创建的,但爱德华表示,他认为它也可以被用来解决人工智能日益普及所带来的其他问题,比如打击谣言。
然而,尽管开发了“反制”ChatGPT的软件,爱德华并不反对人工智能——事实上,他对人工智能的出现“感到非常兴奋”,人工智能也帮助了他编写计算机代码和解决其他问题。但他同样表示,为任何新技术制定安全保障措施都很重要,这能让新技术的推广有更多的可信度。