①在发布Astra之前,OpenAI将扩大针对该模型的测试和安全措施,并按照公司2023年首次发布的“准备框架”要求,放缓Astra的开发进程,直到建立适当的安全防护措施。 ②浙商证券称,AI大模型能力持续迭代,正在推动网络安全行业逻辑从“AI颠覆安全”转向“AI放大安全需求”。
①OpenAI宣布,因评估显示下一代AI模型Astra存在具备关键级网络攻击能力的可能性,暂停其部分相关研发工作; ②网安行业正从“AI辅助安全”向“AI原生安全”演进:安全产品不再将AI作为附加功能,而是将大模型推理能力、知识图谱关联分析、智能体自主决策深度嵌入安全架构的核心。
①在最新的安全测试中,Anthropic与OpenAI的AI智能体在122次测试中共出现19次越权行为; ②越权行为包括编写恶意代码及伪造身份等,两家巨头均已回应并展开调查; ③近期,AI模型相关安全事件频发,且各类事件的风险成因各不相同。