律师使用ChatGPT打官司 被骗引用不存在的案例

Illustration: The Verge

据《纽约时报》报道，起诉哥伦比亚航空公司Avianca的律师提交了一份简短的案情摘要，其中列出了之前由ChatGPT编造的全部案件。在对方律师指出不存在的案件后，美国地区法官Kevin Castel证实，“提交的案件中有六起似乎是虚假的司法裁决，有虚假的引用和虚假的内部引用”，并在考虑对原告律师的制裁时举行了听证会。

律师Steven A. Schwartz在一份宣誓书中承认，他曾使用OpenAI的聊天机器人进行研究。为了核实这些案件，他做了唯一合理的事情：他问聊天机器人是否在撒谎。

对方律师详细讲述了在一个不存在的案件Varghese v.China Southern Airlines Co.，Ltd.中，chatbot似乎引用了另一个真实的案件Zicherman v.Korean Air Lines Co.，Ltd.，但日期（和其他细节）有误，称这是在最初1996年的裁决12年后作出的。

Schwartz表示，他“不知道其内容可能是虚假的”。他现在“非常后悔利用生成人工智能来补充本文中的法律研究，如果没有对其真实性的绝对验证，未来将永远不会这样做。”

Schwartz没有被允许在纽约南区执业，但他最初是在诉讼被移交给该法院之前提起诉讼的，并表示他仍在继续工作。同一家律师事务所的另一名律师Peter LoDuca成为了该案的记录在案的律师，他将不得不出现在法官面前解释发生了什么。

这再次凸显了使用聊天机器人进行研究而不在其他地方双重（或三重）检查其来源的荒谬性。谷歌的人工智能聊天机器人Bard在其第一个演示中编造了一个关于詹姆斯·韦伯太空望远镜的事实。Bing甚至在今年三月的一个滑稽的例子中谎称Bard被关闭了。

无论如何，法官指出，律师的案情摘要完全是一场谎言盛宴。