①DeepSeek最大的成果不仅是让中国大模型在技术上赶上了美国大模型,同时在中国用户、企业和政府中做了一次人工智能的普及教育。 ②当大模型渗透率提升时,应用安全问题也迫在眉睫。传统网络安全已无法应对新挑战。
《科创板日报》3月3日讯(记者 黄心怡)在2025年全国两会期间,全国政协委员、360创始人周鸿祎的提案将关注安全和人工智能两个方向。
今年春节期间,DeepSeek在全球异军突起,成为了AI发展史上的重要里程碑。在周鸿祎看来,DeepSeek最大的成果不仅是让中国大模型在技术上赶上了美国大模型,同时在中国用户、企业和政府中做了一次人工智能的普及教育。由于DeepSeek免费、开源等特性,大家纷纷开始采用DeepSeek在政府企业内部降本增效,加速了中国爆发AI产业革命的步伐。但DeepSeek作为基座模型,也存在着幻觉、提示注入攻击等问题。同时,大模型要在企业内部真正发挥作用,还需要连上企业的专业知识库、打造智能体,调用企业各种IT系统,这进一步加剧了安全风险。因此,当大模型渗透率提升时,应用安全问题也迫在眉睫。
周鸿祎建言,传统网络安全已经无法应对新挑战,所以应由既懂安全又懂AI的企业牵头,以模制模,通过打造安全大模型来解决大模型的应用安全问题。
周鸿祎认为,在传统的大模型发展技术路线遇到瓶颈时,DeepSeek通过强化学习找到了新范式,中国应该抓住机会鼓励应用发展。但作为人工智能,DeepSeek本身一直存在着幻觉的“基因问题”。其实幻觉是一把双刃剑,它是大模型具备真智能的体现,是走向AGI的基础,它让大模型体现出更多的创造性和想象力,能够在科研领域发挥重要作用。大模型幻觉很难消除,但我们已经通过多个大模型交叉验证、搜索矫正以及企业知识库比对等方式进行了纠正。在大模型产业高速发展的过程中,不发展是最大的不安全,所以不能因为大模型的幻觉问题就因噎废食。就像“避风港原则”曾带给互联网巨大的产业发展机会,国家对大模型发展实行柔性监管,更加包容审慎,这样中国人工智能才能借助DeepSeek的机会实现更长远的发展。
回看网络安全这一年的发展,周鸿祎表示,传统行业纷纷进行数转智改的背景下,网络安全和大模型安全问题日益凸显,所以越来越多的企业开始打造自己的安全体系。但一直以来,我国安全行业内卷严重,很多厂商只是一味的卖硬件软件,客户也无法得到想要的安全服务,致使行业面临普遍性经营困境,造成客户和厂商双输的局面。同时,各种高级别攻击日益严重,企业不只需要一个“安全盒子”,更需要高级网络安全专家协助进行数据分析研判、数据追踪及事件处置。为了解决这个困境,国外很早就通过SaaS的方式来为更多企业提供安全服务,企业不仅可以直接体验安全服务效果,投入成本也降到了五分之一甚至十分之一。
周鸿祎呼吁,筑牢网络安全根基,是为大模型发展铺路;而解决AI应用安全与幻觉问题,则是让技术真正转化为新质生产力。期待走出一条中国特色的安全与创新协同之路,为数字中国保驾护航。