财联社
财经通讯社
打开APP
事关AI监管!美政府正与AI公司协商自愿性安全标准 最快下周公布
①美国政府预计最快下周推出针对先进人工智能模型的自愿性标准,以建立更可预测的监管框架;
                ②该标准将明确AI模型的“前沿”分类、安全评估时间和公开部署前的安全要求,并涉及模型访问权限问题; 
                ③OpenAI、Anthropic等公司已与政府讨论框架细节。

财联社7月2日讯(编辑 刘蕊)随着美国政府试图为开发前沿人工智能系统的公司建立更可预测的框架,政府方面预计最快将于下周起推出针对先进人工智能模型的自愿性标准。

报道称,该拟议框架旨在为评估高能力人工智能模型建立一套共同的自愿性基准,以取代此前逐个案例处理的方式——这使得开发者对监管要求缺乏明确预期。

美政府拟出台AI模型标准

据报道称,美政府官员们目前正在与领先的AI企业合作讨论具体框架细节,比如明确AI模型何时应被归类为“前沿”AI、安全评估应持续多长时间,以及在公开部署前需达到哪些安全标准

讨论还涉及“谁应被允许访问美国及海外最先进的模型”这一问题,这可能为美国盟友之间建立更广泛框架奠定基础。

据报道,OpenAI、Anthropic以及Alphabet公司的技术团队近日已经持续与美国政府管理层官员举行定期会议,以推进具体框架细节的讨论。

而美国人工智能标准与创新中心(Center for AI Standards and Innovation)和国家安全局(National Security Agency)预计将在这项框架的评估与监督中发挥核心作用。

特朗普政府正加强AI监管

上个月,特朗普政府曾发布关于人工智能的行政命令,该命令要求政府对先进AI模型的网络能力进行正式评估。而当前拟出台的这一自愿性标准,很可能就是对这一命令的落实举措。

特朗普政府此前已经采取了一系列涉及下一代人工智能系统的干预举措,而目前这一最新框架是其最新举措。

本月早些时候,美国官员因“网络安全担忧”,对Anthropic公司的最新模型实施了临时出口限制,但本周已解除限制;同时,特朗普政府还要求OpenAI在GPT-5.6模型全面发布前,先将访问权限仅限于经政府批准的用户。

本周早些时候,Anthropic曾透露,在其最新模型的限制解除后,将与政府机构和行业同行合作,共同制定一项自愿性的安全框架。

环球市场情报 人工智能
相关板块:
人工智能-1.04%
AI模型-0.97%
财联社声明:文章内容仅供参考,不构成投资建议。投资者据此操作,风险自担。
商务合作
热门解锁
相关阅读
评论
发送
复制
取消
垃圾广告
政治激进内容
色情低俗内容
取消