①本吉奥警告,当前AI已具备较强黑客与说服能力,长期规划能力继续提升可能放大目标错位风险;
②辛顿认为,未来十年AI导致人类灭绝的风险虽难估算,但10%的概率并非不合理;
③戈麦斯称,AI已成为强大的网络武器,但安全关键更多取决于部署环境与具体系统设计。
财联社9月18日讯(编辑 李莹)在AI安全争论日益升温之际,美国科技巨头亚马逊当地时间周四首次就此事公开表态:模型经严格测试、确保安全后方可发布。亚马逊并未跟进呼吁行业发展放缓。
据媒体当地时间9月17日报道,就硅谷持续升温的AI安全争论,亚马逊一名发言人表示:
“我们不认为这是在发展与安全之间二选一。模型应在准备就绪、可以安全使用时发布,而这需要严格的测试和强有力的安全保障。”
“我们相信,整个行业将与政府合作,找到合适的保护措施。”
该发言人指出,AI发展若不能由行业共同推进,就会存在风险。
此前,亚马逊一直未就这场争论公开表态。几天前,多家大型AI实验室已呼吁放缓AI发展。
亚马逊的态度之所以受到关注,是因为该公司在AI产业链中扮演着多重角色。
一方面,亚马逊自身也在开发AI模型,相关工作主要由旗下云计算部门AWS和AGI(通用人工智能)部门负责。AGI部门主要负责研发“Nova”系列等亚马逊最前沿的AI模型。
另一方面,亚马逊是众多AI实验室的主要基础设施供应商,还通过模型平台Bedrock,为企业提供包括竞争对手在内的多家公司的AI模型。
此外,亚马逊还是此次呼吁放缓AI发展的Anthropic的重要投资方。
据亚马逊4月公告,公司已向Anthropic投资130亿美元(含追加的50亿美元);若达成特定商业目标,亚马逊未来将追加最多200亿美元投资。Anthropic则承诺未来十年在AWS上投入逾1000亿美元。
行业现分歧
上周六,Anthropic首席执行官达里奥·阿莫代伊(Dario Amodei)发表长文,呼吁行业放慢AI发展节奏。
随后,OpenAI、xAI、谷歌DeepMind和微软的负责人纷纷表示支持,并同意携手合作,将安全置于首位。
不过,行业内部并非意见一致。英伟达和Meta的首席执行官本周二表示,AI风险应由各公司自行评估和控制。
美国总统特朗普则称AI安全担忧是一场"骗局"。他在社交媒体上发文称,AI唯一需要的"护栏"就是一位强大而聪明的总统,而美国恰恰拥有这样的总统。
据媒体当地时间周四报道,特朗普预计将于本周或下周初与AI企业高管会面,目前尚不清楚亚马逊是否会受邀。