①近期多起AI智能体失控事件相继曝光,OpenAI最新一代人工智能模型训练已经暂停。
②扎克伯格表示,AI实验室应依靠独立评估者确保模型安全。
③综合各机构观点,随着AI智能体自主执行能力提升,安全与隐私或成为产业发展关键约束。
财联社9月28日讯(编辑 卞纯)美国总统特朗普确认,他计划于当地时间周日晚与Anthropic首席执行官达里奥·阿莫代伊共进晚餐,但他重申了反对减缓人工智能(AI)发展速度的立场。
特朗普重申了其观点,即实施新的监管措施将为其他国家在AI领域超越美国打开大门。尽管他承认阿莫代伊关于“在人工智能领域推进过快可能会扩大风险”的担忧,但特朗普表示,对美国而言,保持科技优势更为重要。
特朗普表示,美国不应仅仅因为风险就放弃一个潜在规模达数万亿美元的产业。“我们处于领先地位,并且正在建设价值数万亿美元的庞大产业。我们为什么要放弃?” 特朗普在伊利诺伊州出席总统杯高尔夫球赛期间表示。
特朗普还证实了媒体早前的报道,表示将于周日晚与Anthropic首席执行官阿莫代伊共进晚餐。阿莫代伊、OpenAI首席执行官萨姆·奥尔特曼、SpaceX首席执行官埃隆·马斯克以及谷歌DeepMind首席执行官兼联合创始人Demis Hassabis近期纷纷呼吁放缓AI开发速度,并加强联邦政府对AI行业的监管。
在OpenAI于7月表示,一款自主AI代理在安全测试中失控并入侵另一家公司后,支持联邦政府干预的呼声日益高涨。
特朗普周日表示,AI智能体失控事件并不值得担忧。“我对此并不担心,”他称,并强调自己仍对这项技术及其潜力充满信心。
阿莫代伊并非唯一试图影响特朗普AI监管立场的科技大佬。在周日早些时候播出的一档节目中,微软联合创始人比尔·盖茨表示,他希望与特朗普会面讨论AI问题。他指出,需要执法部门和政治家参与到讨论中来,明确安全保障和监管措施的形式。
此前,特朗普曾将人们对AI的种种担忧称为“骗局”。而盖茨则反驳称,这些安全措施不会严重阻碍行业发展,而不实施这些措施所带来的风险是真实存在的。“这完全不是骗局,”盖茨表示。
关于AI风险的警告并非新鲜事。但本月,随着顶尖AI实验室的研究人员为这些担忧附上了具体的时间表和发生概率,问题变得更加紧迫。
Anthropic前研究员Jacob Coxon警告称,AI可能在本十年末导致全人类灭亡。这促使美国立法者呼吁制定新的规则来监管这项技术。
Anthropic的对齐科学负责人Evan Hubinger也附和了Coxon的警告,称在未来十年内发生此类事件的概率超过10%。