ChatGPT卷入校园枪击案,OpenAI再遭30起诉讼

据外媒Futurism报道,OpenAI近日新增30起诉讼,原告为加拿大不列颠哥伦比亚省塔姆布勒岭校园枪击案的幸存教师和学生。他们指控OpenAI向枪手提供了“实质性协助和鼓励”,并在案发前没有就枪手与ChatGPT之间令人警觉的互动向警方示警。加上此前案件,OpenAI面临的诉讼已超过50起。

这起枪击案发生在今年2月,共造成8人死亡、27人受伤。18岁的枪手先在家中杀害母亲和继弟,随后携带改装步枪和长枪袭击学校。原告称,案发数月前OpenAI内部曾讨论枪手与ChatGPT之间包含大规模暴力描述的对话,但管理层最终决定不向警方报警,只停用了枪手的账号,对方随后又注册了新账号。新增诉讼指控OpenAI存在疏忽,并协助和教唆大规模枪击,认为ChatGPT助长了暴力幻想。

OpenAI首席安全官杰森·权在X平台回应称,安全团队通过自动化系统和人工判断来平衡用户安全与隐私,并与心理健康、行为及执法领域专家合作,评估对话是否构成迫在眉睫且可信的风险。他表示,相关判断并非完全不会出错,但诉讼中针对安全团队的部分说法属于虚假指控。

除校园枪击案外,OpenAI还面临与康涅狄格州一起谋杀后自杀案件有关的诉讼,以及一起跟踪骚扰受害者提起的诉讼。另有多名原告称,自己或亲人因大量使用GPT-4o出现妄想和自杀倾向,造成心理伤害、经济和声誉损失,甚至死亡。