美国前总统唐纳德·特朗普的私人律师迈克尔·科恩承认,在一份法庭文件中,他使用谷歌的人工智能聊天机器人巴德不小心引用了虚假的法律案件。
据Axios报道,这些编造的引证被用来确保提前结束法院下令的监管,从而使科恩能够在2021年从监狱获释。
科恩在去年11月的一项动议中声称,他已经在监狱服刑,并遵守了他的释放条款。然而,一名联邦法官对动议中引用的三个案例提出质疑,称“就法院所知,这些案例都不存在。”
法官命令科恩的律师提供三份判决书的副本,或者解释判决书的出处以及科恩在动议中所扮演的角色。
根据一份未公开的法庭文件,科恩的律师Danya Perry透露,他在动议中使用Google Bard进行“开源研究”,但他的律师David Schwartz在没有核实的情况下,在动议中引用了这些案例。
据美国广播公司新闻报道,施瓦茨在一封法庭信中承认,他没有彻底检查这些引文,并补充说,他认为这些引文来自佩里,如果他知道它们来自科恩,他会审查它们。
科恩是一名非执业律师,他承认自己没有跟上法律技术的趋势和风险,他说自己错误地认为Google Bard是一个“超级强大的搜索引擎”,没有意识到它可以制造虚假引用,就像ChatGPT一样。
科恩补充说:“当时我没有想到——现在我仍然感到惊讶——施瓦茨先生会在没有证实它们存在的情况下,把这些案例大量地放到他的报告中。”
这并不是第一个强调使用人工智能进行法律研究的风险的案例。
今年早些时候,两名纽约律师因在一起针对阿维安卡航空公司(Avianca airlines)的诉讼中提交了一份引用ChatGPT产生的6个虚假案例的法律简报而受到制裁。
在一份宣誓声明中,其中一名律师承认使用ChatGPT进行研究,但表示他“非常后悔”自己的行为。
有话要说...