美国律师用ChatGPT起草上诉文书出现虚构证词，被法院罚款5000美元
Miranda 美国新墨西哥州最高法院近日公布一项处罚决定，辩护律师斯蒂芬·阿伦斯因在一份刑事上诉文书中提交了虚构证人和编造的警察证词，被罚款5000美元。法院认定，相关虚假内容来自OpenAI的ChatGPT，阿伦斯未核实文书准确性，构成藐视法庭。
阿伦斯承认使用了ChatGPT协助起草上诉文书。法院指出，文书中的虚假证词来自“完全虚构的证人”，并认为阿伦斯“缺乏悔意，也缺乏对委托人的关心”。除罚款外，他还被移交律师纪律委员会接受进一步调查。
阿伦斯解释，他去年接手案件后，将电脑生成的庭审文字记录和其他案件材料交给ChatGPT，希望获得一份“无懈可击的摘要”，但未意识到AI会产生“幻觉”并编造事实。他表示懊悔，并称这是无心之失，使用这类强大但不够稳定的工具时应更谨慎。
这一案例并非孤立。此前已有数十名律师因未充分核查AI生成的诉讼文书而受到州或联邦法官处分，问题包括编造判例引用和错误引用法律。此次事件中，虚构内容进入了刑事上诉文书，程度更为严重。法官C·香农·培根在听证会上质问：“律师先生，你看新闻吗？听广播吗？有没有在了解外面发生什么？律师依赖AI幻觉的问题，每天都是头条新闻！”
