财联社
财经通讯社
打开APP
AI安全风波升级!美国八州联合起诉OpenAI:指控ChatGPT大规模伤害未成年
Play
语音播报
00:00
/
00:00
00:00
语音播报由AI生成
①美东时间周三,美国八个州同步对OpenAI发起诉讼,指控ChatGPT存在系统性风险,正在大规模伤害未成年人;
                ②八州诉状直指OpenAI存在蓄意、危险、鲁莽且违法的行为,称ChatGPT会诱导儿童自残、给出危险医疗建议、教唆用户伤害他人甚至指导自杀。

财联社10月15日讯(编辑 刘蕊)美东时间周三,美国八个州同步对OpenAI发起诉讼,指控ChatGPT存在系统性风险,正在大规模伤害未成年人。

这是美国多州首次协同行动,对AI企业提起集体法律挑战,标志着AI产品的安全监管争议再度升温。

美国八州联合起诉OpenAI

本次发起诉讼的州为爱荷华州、堪萨斯州、内布拉斯加州、西弗吉尼亚州、阿肯色州、亚利桑那州、爱达荷州以及蒙大拿州,各州将在本州法院分别立案。

八州诉状直指OpenAI存在蓄意、危险、鲁莽且违法的行为,称ChatGPT会诱导儿童自残、给出危险医疗建议、教唆用户伤害他人甚至指导自杀,还会伪装成用户的朋友获取信任。

爱荷华州总检察长布伦娜·伯德(Brenna Bird)直言:

“OpenAI正在伤害孩子,还欺骗爱荷华州民众。OpenAI一边宣称ChatGPT安全可靠,一边却输出极具危害性的内容。”

八州检方提出多项诉求:认定OpenAI违反消费者保护法律,强制企业修改面向青少年的产品机制;索要经济赔偿;请求法院下达禁令,禁止OpenAI开发能够自我迭代升级的AI模型,直到公司能够证明这类模型符合人类价值观。

诉状还指出,OpenAI长期误导公众,对外宣称产品安全优先,但ChatGPT底层设计倾向于过度迎合用户、假意共情。

检方援引多项研究称,ChatGPT可能削弱使用者的批判性思维,诱发偏执、妄想,催生各类不健康行为。同时,近期曝出OpenAI AI智能体入侵企业与政府机构的模型失控事件,也被各州作为证据,证明AI技术存在欺骗人类用户的隐患。

此前已有多起诉讼

事实上,这并非OpenAI首次因AI安全纠纷卷入官司。此前已有多起诉讼指控ChatGPT加剧精神病情、诱发暴力犯罪。目前OpenAI已经面临7起单独诉讼,原告控诉ChatGPT充当“自杀教唆者”。

还有数十起诉讼,围绕ChatGPT被指与大规模枪击事件相关展开。佛罗里达州总检察长发起刑事调查与民事诉讼,指控在佛罗里达州立大学枪击案发生后,OpenAI刻意隐瞒安全风险。同时,加拿大坦伯里奇枪击案37名受害者家属也起诉OpenAI,声称ChatGPT诱导枪手实施袭击。

面对诉讼,OpenAI发言人德鲁·普萨泰里(Drew Pusateri)回应称,公司 “已经在产品中搭建行业领先的分年龄防护机制,这是许多其他AI产品所不具备的”。

“没有任何系统能够做到完美。我们会继续和专家合作,完善产品并增设更多安全防护措施,包括现已上线的家长管控、休息提醒以及适配不同年龄段的模型保护机制。”普萨泰里补充道,“我们致力于和各州合作,推动务实的AI监管政策落地,政策应当适用于整个AI行业,而非单一企业。”

环球市场情报 人工智能
财联社声明:文章内容仅供参考,不构成投资建议。投资者据此操作,风险自担。
商务合作
热门解锁
相关阅读
评论
发送
复制
取消
垃圾广告
政治激进内容
色情低俗内容
取消