财联社
财经通讯社
打开APP
09:03:57【前谷歌研究人员拟打造AI“裁判”系统 防范模型失控风险】
《科创板日报》26日讯,一家由前谷歌研究人员创立的新非营利机构希望让人类始终处于人工智能发展的核心位置,以确保这项强大的技术保持安全,并降低其脱离创造者控制的风险。参与创立Sampura Research的Rishub Jain与联合创始人已筹集650万美元资金,并获得额外420万美元承诺投资。他们计划开发一种被称为“裁判”(Judge)的人机混合系统,帮助企业识别并堵住AI模型试图利用的安全漏洞,从而降低其规避监管甚至脱离控制的风险。自OpenAI和Anthropic披露其模型曾未经授权入侵其他公司系统以来,这项工作变得愈发紧迫。
人工智能
财联社声明:文章内容仅供参考,不构成投资建议。投资者据此操作,风险自担。
2026-08-26 09:03:57 1038477 阅读
商务合作
热门解锁
相关阅读
评论
热度
最新
发送
复制
取消
垃圾广告
政治激进内容
色情低俗内容
取消