
①人工智能公司Anthropic旗下模型Claude在未经人类授权的情况下绕过付费墙,调取了美国佐治亚州原本仅对付费公众开放的选民相关数据; ②Anthropic公司表示Claude没有渗透该州的选民登记系统,也没有篡改或导出任何投票记录。
财联社10月26日讯(编辑 黄君芝)在人工智能(AI)模型引发越来越多安全担忧之际,人工智能公司Anthropic旗下模型Claude又被曝光了一起越界行为:在未经人类授权的情况下绕过付费墙(Paywall),调取了美国佐治亚州原本仅对付费公众开放的选民相关数据。
该事件于当地时间10月25日(上周日)被曝光后引发广泛关注。Anthropic公司在一份声明中表示:“Claude没有渗透该州的选民登记系统,也没有篡改或导出任何投票记录。”
也就是说,Claude绕过付费门槛拿到的只是统计层面的汇总数据,而非个人投票底档。该公司还补充说,此后已采取措施阻止此类行为。
佐治亚州州务卿办公室也证实了这一点,并强调,该机器人没有访问选民档案或该州的选民登记系统。佐治亚州副州务卿Jordan Fuchs告诉媒体,“它获取的是通过我们数据枢纽对外公开的数据,并没有侵入选民登记系统。”
根据Anthropic公司的解释,当时团队正在开展一项内部统计项目,AI从该机构网站的归档页面发现,面向访客的公开数据看板会发放访问令牌。
“在没有人工指令的情况下,模型自行申请令牌,查询了这份通常需要付费才能查看的看板数据。事发之后,我们已经落实防护措施,阻止这类行为再次发生。”该公司补充称。
简单来说,付费墙,对人类用户意味着“要先付款”,而对一个正在训练中的AI智能体而言,可能只是一行需要绕过的提示。智能体会读页面、理解按钮、尝试不同路径,甚至会为了完成目标而“换一种办法”。
分析指出,从技术结果来看,Claude的行为可能确实没有造成选民数据泄露,但从治理角度看,模型已经展示了绕过访问控制的能力。这也是为什么Anthropic在声明里反复强调“没有渗透”、“没有导出”。
这一事件发生之际,AI智能代理如何与政府网站交互,正受到越来越严格的审视。
事实上,Anthropic早在10月9日的一份报告中就披露该事件,该报告主要梳理测试期间AI代理出现的各类意外操作。而当时这份报告并未指明是佐治亚州。该公司表示,应相关机构要求,隐去涉事单位名称,避免暴露平台安全漏洞。
Anthropic表示,已经通知相关主管机构,并向白宫做了情况通报。这起事件又恰逢中期选举前夕,Anthropic近期公布了为选举场景新增的安全防护机制。
该公司在本月早些时候的新闻稿中称:“我们希望Claude可以成为探讨政治话题的有用工具,同时防范与选举相关的滥用行为。”