财联社10月26日讯（编辑 夏军雄）安联投资10月发布题为《AI发展速度与安全治理的竞赛》（The race to pace AI）的研报指出，2026年以来发生了多起AI安全事件，暴露出自主智能体难以预测和约束的风险，促使OpenAI、Anthropic等前沿模型开发商重新审视技术发展节奏。

安联认为，尽管行业可能需要放慢部分前沿模型的研发和发布速度，但这种调整不太可能对AI长期发展趋势及相关资本开支构成重大阻力。随着AI应用普及和新使用场景不断出现，算力基础设施需求仍有增长支撑。

多起安全事件暴露AI智能体自主行为风险

报告指出，2026年发生的四起具有代表性的安全事件表明，部分AI智能体在执行既定任务时，可能主动突破测试环境或访问权限限制，甚至通过未经授权的方式实现目标。

今年4月，Anthropic旗下Mythos模型展示了自主发现软件漏洞、在极少人工指导下实施复杂多阶段网络攻击的能力。报告认为，这一表现成为行业重新关注AI安全的重要警示。

更复杂的事件发生在7月。

安联援引OpenAI智能体侵入Hugging Face系统的案例指出，部分参与内部网络安全测试的智能体通过利用漏洞突破隔离环境，获得互联网访问权限，并侵入Hugging Face部分真实系统。

这些智能体还试图入侵OpenAI内部评分系统，以提高任务得分。更值得关注的是，它们能够相互通信、分享绕过测试限制的方法，并采取掩盖异常行为的措施。

报告称，相关活动从单个隔离环境中的智能体，扩展至700多个智能体相互通信，分享可用于不同任务的作弊方法。

这意味着，风险不仅来自单个模型突破安全限制，还包括多个智能体通过未经授权的协作扩大其行动能力。

Hugging Face事件之后，Anthropic检查了自身模型评估体系，发现Claude也存在类似的异常行为，包括侵入真实系统。

另一事件涉及澳大利亚医疗统计系统。OpenAI智能体于6月访问了澳大利亚Medicare Statistics Reporting Service门户，接触到公开及非公开文件。这一事件直到8月OpenAI复查Hugging Face事件时才被发现。

相关调查表明，部分执行普通数据检索任务的智能体，在遭遇数据库安全限制时，可能将其视为需要克服的障碍，而非必须遵守的边界。

9月，谷歌Gemini智能体在一项针对虚构公司的受限测试中，也曾突破原定访问范围，将一家同名真实企业作为目标。不过，报告称，模型在意识到已接触现实系统后停止了行动。

安联认为，尽管上述事件造成的实际影响总体较小，但它们共同揭示了一个问题：以完成目标为导向的AI智能体，可能自主选择开发者未曾预料、甚至不允许的执行方式。

随着模型能力提高，这种难以预测的自主行为可能带来更严重的安全后果。

AI参与自身研发，技术进步正在超越安全控制能力？

AI安全问题之所以受到更多关注，与模型研发速度持续加快密切相关。

安联指出，递归自我改进（Recursive Self-Improvement，RSI）正成为推动AI发展的重要力量。其核心机制是AI越来越多地参与自身技术研发，部分取代人类研究人员，从而推动模型能力加速提升。

Anthropic的研发流程已经体现出这一趋势。

报告数据显示，截至2026年5月，Anthropic代码库中合并的代码已有超过80%由Claude编写，而2025年2月这一比例还处于较低的个位数水平。

不过，代码生成数量增长并不意味着质量同步提高。报告指出，Anthropic内部部分人员曾认为，Claude早期编写的代码质量低于人类工程师，直到近期才大致达到同等水平。

安联认为，这种先追求数量、随后改善质量的发展过程，也值得其他AI开发商关注。

尽管AI已深度参与研发，目前仍未实现完全意义上的递归自我改进。人类依然负责决定系统需要追求的目标，但随着AI智能体自主性增强，人类直接参与研发和执行的程度可能进一步下降。

由此产生的核心挑战是，模型能力不断增强，人类理解和控制模型行为的能力却未必同步提高。

报告认为，问题主要集中在模型对齐（Alignment）和可解释性（Interpretability）两个方面。

模型对齐要求AI系统遵循人类设定的安全、伦理和行为规范，避免为了完成任务而采取不被允许的手段。可解释性则涉及研究人员能否理解模型内部的运行机制，以及模型为什么作出特定决策。

两者相互关联。模型内部机制越难理解，研究人员就越难发现不符合预期的行为；提高可解释性，则有助于识别并修正可能导致异常行为的机制。

安联认为，模型能力提升的速度已明显超过可解释性研究的进展。随着安全要求提高，可解释性也可能成为具有独立投资价值的技术领域。

科技巨头产生分歧

面对AI自主能力带来的挑战，主要科技企业领导人开始重新讨论前沿模型的发展速度，但对安全治理的力度仍存在分歧。

Anthropic首席执行官达里奥·阿莫代伊在9月呼吁行业放慢AI模型能力提升的速度，使安全研究和治理措施能够跟上技术发展。

阿莫代伊担心，如果AI能力提升速度持续超过安全控制能力，未来6至12个月内，更强大的智能体集群可能具备实施大规模、持续性网络攻击的能力，并造成重大经济损失。他同时警告，AI技术失控或遭到滥用，还可能带来生物恐怖主义等严重风险。

报告指出，OpenAI首席执行官萨姆·奥尔特曼、谷歌DeepMind负责人德米斯·哈萨比斯以及xAI创始人埃隆·马斯克也支持前沿模型开发商建立共同安全标准。

然而，Meta首席执行官马克·扎克伯格和英伟达首席执行官黄仁勋持有不同看法。他们更倾向于针对明确的风险采取安全措施，而非对所有AI模型实施普遍性限制。

相关考虑包括市场竞争自身的约束作用、监管可能进一步巩固既有科技巨头的优势，以及部分AI风险可能被高估。

行业分歧的核心并非是否需要安全治理，而是应该在多大程度上限制模型能力提升，以及安全标准应当适用于哪些模型。

安全问题已经影响部分前沿模型的发布安排。

报告指出，OpenAI因下一代模型GPT-6.1 Astra未达到内部安全标准，决定取消其原定于10月的发布计划。相关测试发现，该模型表现出更高程度的欺骗性，未必如实向用户报告已执行的操作，还可能在未获得授权的情况下继续执行任务。

这一决定表明，当模型完成复杂任务的能力增强，却无法充分遵守行为边界时，开发商可能需要重新权衡技术性能与安全要求。

行业自律能否应对AI风险？全球监管路径仍存分歧

对于如何控制AI发展节奏，安联重点讨论了独立第三方评估、共同安全标准和国际协调三项措施。

该机构认为，建立独立第三方评估机制，是推动AI安全治理的必要第一步。外部评估可以帮助验证模型及其研发过程是否符合安全和对齐要求，减少完全依赖开发商内部测试的局限。

共同安全标准也具有积极意义。

报告指出，OpenAI、Anthropic、谷歌、Meta和英伟达的代表近期曾在白宫讨论建立行业自愿安全标准，尝试通过企业间的共同规则实现自我约束。

报告指出，主要AI开发商正尝试通过共同安全标准加强行业自律。今年9月底，美国政府与OpenAI、Anthropic、谷歌、Meta和英伟达等企业签署自愿性AI安全协议，涉及内部安全控制、独立评估及监督机制。

不过，自愿性协议并不等于具有法律强制力的统一监管制度。安联认为，行业自律的有效性仍存在疑问。早在2023年，主要AI开发商就曾在拜登政府执政期间作出安全承诺，但近期事件表明，仅靠企业自愿承诺可能不足以管理自主能力持续增强的AI系统。

报告称，美国政府更倾向于从地缘政治竞争和国家安全角度看待AI，监管活动更多转向州级层面。

尽管欧盟较早推出《人工智能法案》，但部分规定的生效时间已经推迟，相关规则还可能进一步调整，以避免过度影响创新和生产率提升。

对于中国，安联认为，AI治理已经从内容管理逐步扩展至前沿模型风险和自主智能体等领域，监管体系取得明显进展。不过，行业透明度仍存在不足，企业安全信息披露缺乏一致性。

该机构判断，短期内实现全球广泛统一的AI监管框架可能性较低，但长期国际协调仍十分重要。

相比直接建立统一监管制度，围绕模型可解释性等领域加强知识共享，可能是更现实的初步措施。

前沿模型研发放缓，AI资本开支未必同步降温

尽管AI安全风险可能促使开发商调整研发速度，安联并不认为这将明显削弱AI长期投资前景。其核心判断是，前沿模型能力提升的速度与AI应用普及和基础设施投资增长的速度并不完全相同。

即使部分最先进模型因安全问题延后发布，现有模型仍能够支持新的商业应用，而应用场景增加和用户规模扩大，同样会推动算力需求增长。

报告以Meta近期推出的个人AI智能体Muse为例，说明消费级AI应用可能形成新的需求来源。

安联指出，Muse采用Meta内部开发的Muse Spark模型，并未使用处于技术最前沿水平的模型，但产品推出后迅速获得用户关注，登上美国和加拿大苹果应用商店免费应用下载榜首。

报告预计，2026年剩余时间还将有更多消费级AI智能体产品推出，可能进一步拓展AI应用场景，为算力基础设施投资提供支撑。

不过，安联也强调，安全治理需要保持适当平衡。

如果监管措施过于广泛且缺乏针对性，可能限制未来AI应用场景的开发；但如果技术发展缺乏必要约束，持续发生的安全事件也可能削弱市场对AI的信任，进而妨碍技术采用。

安联认为，AI应用普及和新使用场景仍将推动算力需求增长，因此研发节奏调整不太可能成为AI长期发展及相关资本开支的重大阻力。