①OpenAI等高管呼吁政策制定者调查各家公司在多大程度上已经实现AI研发自动化; ②论文作者建议世界各国领导人应就国际协议展开谈判,以“防止高能力AI系统的开发和使用造成破坏性后果”。
①近期多起AI智能体失控事件相继曝光,OpenAI最新一代人工智能模型训练已经暂停。 ②扎克伯格表示,AI实验室应依靠独立评估者确保模型安全。 ③综合各机构观点,随着AI智能体自主执行能力提升,安全与隐私或成为产业发展关键约束。
①英伟达首席执行官黄仁勋近日再度驳斥了“AI末日论”。不过,他也强调了开发人员的安全责任,指出无法控制的AI系统不应被发布; ②针对“AI教父”杰弗里·辛顿提出的“AI让人类文明终结的概率大概在10%左右”这一观点,黄仁勋称此类言论“不负责任”,并呼吁“停止做出此类预测”。