财联社
财经通讯社
打开APP
08:41:03【OpenAI研究员示警:AI能力越强 越容易“隐藏内心想法”】
《科创板日报》20日讯,OpenAI 研究员诺姆 · 布朗最新表示,伴随着AI模型能力越来越强,模型的思维链可监测性正逐渐下降,未来开发者可能无法有效、可靠地发现、解释并约束 AI 的风险行为。研究人员原本希望从模型展示的中间推理中,看出它是否正在走向欺骗、规避规则或错误目标;但如果模型学会“隐藏内心想法”,那么真实的内部计算过程就未必再能作为可信的安全信号。
人工智能
财联社声明:文章内容仅供参考,不构成投资建议。投资者据此操作,风险自担。
2026-09-20 08:41:03 1437558 阅读
商务合作
热门解锁
相关阅读
评论
热度
最新
发送
复制
取消
垃圾广告
政治激进内容
色情低俗内容
取消