①奥尔特曼在接受采访时表示,OpenAI今年不会上市,目前公司将重点解决围绕人工智能技术的安全问题; ②奥尔特曼、阿莫代伊和马斯克三家主要AI企业的领导者一致认为需放缓人工智能发展速度,因技术带来的风险正不断上升。
①Anthropic首席执行官达里奥·阿莫代伊在博客中表示,AI行业需放缓新模型开发速度,要留足时间完成模型与人类目标对齐及安全防护; ②埃隆·马斯克、萨姆·奥尔特曼均公开赞同该观点;阿莫代伊还称Anthropic将为第三方评估机构开放与内部风险评估团队相当的访问权限。
①多名AI安全研究人员披露,OpenAI正在测试中的AI智能体疑似于今年5月对Ruby语言的官方管理器RubyGems进行了网络攻击。 ②这些AI智能体“越权”事件究竟只是个案,还是冰山一角?在已被发现的事件之外,是否还有更多智能体越过预设边界,只是尚未被发现?