财联社
财经通讯社
打开APP
AI专家和前员工试图阻止OpenAI转型为营利性公司
①OpenAI前员工和AI专家致函加州、特拉华州官员,要求阻止OpenAI从非营利转营利,担心其可能不再对公共使命负责,造成社会伤害;
                ②信件得到三位诺贝尔奖获得者和其他专家支持,要求总检察长保护OpenAI慈善宗旨。

财联社4月23日讯(编辑 牛占林)OpenAI的前员工和多位顶级人工智能(AI)专家致函利福尼亚州和特拉华州的最高执法官员,要求他们阻止OpenAI从非营利组织转变为营利性公司。

他们担心,如果ChatGPT的制造商实现了其制造出超越人类表现的AI的雄心壮志,但不再对其公共使命负责,可能会给人类社会造成严重伤害。

据悉,OpenAI成立于2015年,据该公司在成立之初发布的一份声明中称,OpenAI的宗旨是开发AI技术,“造福全人类,不受创造经济回报的需求的限制”。成为一家营利性公司对OpenAI来说将是一个翻天覆地的变化。

OpenAI前政策和道德顾问Page Hedley表示:“归根结底,我担心的是,一旦这项技术被创造出来,谁拥有和控制它。”

Hedley指出,近年来在ChatGPT成功的鼓舞下,越来越多公司在安全测试上走捷径,并急于推出新产品,以领先于商业竞争对手。

他补充说:“随着技术变得越来越强大,这些决策的成本将会不断增加。我认为,在OpenAI想要的新结构中,可能会让它更倾向于快速做出决策以获取利润,而且将不再有任何人会告诉他们不要这么做,告诉他们这是不可以的。”

在三位诺贝尔奖获得者和其他倡导者以及行业专家的支持下,Hedley和其他九名前OpenAI员工本周向两个州的总检察长发了一封信。他们要求加州总检察长罗伯·邦塔和特拉华州总检察长凯西·詹宁斯利用他们的权力保护OpenAI的慈善宗旨,并阻止其计划中的重组。OpenAI在特拉华州注册成立,在旧金山运营。

对此,OpenAI回应称:“对我们现有结构的任何改变,都是为了确保更广泛的公众能够从AI技术中受益。”它表示,它会以公益为目标,而不是单纯追求利润,它会像其他一些负责任的人工智能公司一样运作,比如Anthropic和科技亿万富翁马斯克的xAI,并且还会保留一个非营利部门来确保它不会忘记对社会的责任。

这封信件已是他们本月第二次向州政府官员请愿。上一封来自一群劳工领袖和非营利组织,他们专注于保护OpenAI数十亿美元的慈善资产。

詹宁斯此前表示,她将“审查任何此类交易,以确保公众利益得到充分保护”。

目前OpenAI的估值已达到3000亿美元,其ChatGPT的每周活跃用户数量达到了4亿。OpenAI已经有了一个以营利为目的的子公司,但在转变其核心治理结构方面面临着许多挑战。

“AI教父”杰弗里·辛顿在周三的一份声明中表示:“我喜欢OpenAI‘确保人工智能造福全人类’的使命,我希望他们执行这一使命,而不是让投资者发财,我很高兴有人在努力让OpenAI完成自己的使命。”

环球市场情报 人工智能
财联社声明:文章内容仅供参考,不构成投资建议。投资者据此操作,风险自担。
商务合作
专栏
相关阅读
评论
发送