财联社
财经通讯社
打开APP
密会硅谷AI巨头后 白宫据悉将开源模型排除在审查测试外
①周二,美国政府与OpenAI、Anthropic、谷歌等科技公司员工开会,讨论了人工智能框架;
                ②消息人士称,该框架拟排除开源模型,仅审查Anthropic、OpenAI等公司的特定类型模型;
                ③该框架预发布审查期为30天,期间员工无法访问模型,目前该框架尚未正式公布。

财联社8月5日讯(编辑 马兰)周二,美国政府与来自OpenAI、Anthropic、谷歌和其他科技公司的员工举行会议,讨论白宫的人工智能框架如何规范和审查行业发布的新模型。

这一框架目前仍未公布,因此未被邀请的公司仍然对框架内容一无所知。但消息人士透露,该框架将排除开源模型,只审查Anthropic和OpenAI等公司提供的特定类型模型,以评估其潜在的风险。但随着技术的进步,这些计划可能改变。

此外,消息人士还称,美国政府的预发布审查期为30天,期间公司员工将无法访问该模型。模型在审查期间会被存储在高度安全的环境中,审查过程将由多个行政官员参与,而不是由单一办公室或机构参与。

美国政府据悉还鼓励各公司与政府分享尽可能接近公开发布的模型,而不是早期阶段的模型。但很多技术实力较弱的公司很可能被排除在该框架之外。

框架的影响力

7月,Anthropic和OpenAI两家公司的先进人工智能模型先后被发现失控,在测试中对其他公司的系统进行了攻击,引发了业界的广泛担忧。这也让周二的白宫会议备受瞩目。

乔治城大学安全与新兴技术中心分析师Jessica Ji表示,白宫似乎试图建立一种宽松的合规机制。人工智能框架被描述为自愿性计划,但官员们认为可能对美国安全构成风险的公司都需要遵守该框架。

目前尚无法判断这种“自愿”协议的管辖力有多大。6月时,美国政府曾因为安全风险勒令Anthropic不得对任何外国人或外国实体提供Mythos模型,引发了整个行业的反对。

迫于行业压力,这一禁令随后被取消,并推动了审查框架的诞生,但这也让人思考审查框架最高权限的边界在哪里。

Ji认为,美国政府不太可能再次动用出口管制手段,但她也不清楚他们还会采取哪些其他手段来干预产品发布,或向公司施压以改变其产品。

不过,她指出,此次会议将更清楚地表明白宫在人工智能监管上的权力结构,业界正在努力分辨谁在一系列问题上拥有影响力。

环球市场情报 人工智能
财联社声明:文章内容仅供参考,不构成投资建议。投资者据此操作,风险自担。
商务合作
热门解锁
相关阅读
评论
发送
复制
取消
垃圾广告
政治激进内容
色情低俗内容
取消