财联社
财经通讯社
打开APP
公安部网安局:甄别AI生成网络谣言,勿让“神器”变“凶器
①警惕AI生成网络谣言,造谣者利用AI工具生产仿真度高的虚假信息,如伪造热点事件、捏造名人言论、炮制伪科普等;
                ②识别AI谣言可查源头、看细节、验逻辑、用工具,如观察图像异常、注意视频口型与声音不同步等。

AI技术正在逐渐改变我们的生活方式,提升工作效率,为解决许多问题提供途径。但与此同时,个别别有用心之人在利用AI技术时走向了迷途……造谣者借助AI 工具,生产仿真度高的虚假信息。

警惕!AI被用来“造谣”

典型AI谣言场景

伪造热点事件

用AI生成“某地重大事故”图文/视频,配煽动性标题博流量。

捏造名人言论

篡改语音、合成视频,假借权威人士发布虚假政策解读。

炮制伪科普

利用AI生成“科学数据”,兜售伪劣产品(如“AI检测抗癌神药”)。

嫁接虚假证据

将无关图片通过AI换脸/换背景,捏造“维权证据”“聊天记录”。

四步识别AI谣言不当“受害者”更别当“帮凶”

1查源头

警惕无明确作者、无正规信源的内容,AI生成信息常伪装成“网友投稿”“内部消息”。

2看细节

AI图像:观察手指数量异常、光影不自然等;

AI视频:注意口型与声音不同步、背景模糊扭曲。

3验逻辑

AI生成谣言常出现时间矛盾(如“2024年政策”引用2025年数据)、地名错误等。

4用工具

关注“公安部网安局”新媒体账号打谣信息,或通过“中国互联网联合辟谣平台”“腾讯较真”等渠道一键验证。

真实案例

近日,西安公安网安部门工作查明,一网民利用AI生成软件将一起多年前发生于外地的旧闻进行重新编辑,通过输入指令制作文案,将其包装成本地近期发生的事件,文案多处通过添油加醋的笔法虚构事实真相,以达到博取流量的目的,造成谣言传播扩散。目前,属地公安机关已依法给予该网民行政处罚。

网警提示

01.严守法律红线

不利用AI伪造公文、证件,不生成谣言、暴力等违法信息。

02.抵制AI谣言

遇所谓“爆炸性新闻”做到“三不”:不轻信、不转发、不扩散。通过官方平台验证信息,发现AI谣言立即举报,保存证据协助溯源。

03.共担监督责任

主动标注AI生成内容,人人争做“谣言粉碎者”,共同维护清朗网络空间。

技术向善,始于你我。让我们以理性驾驭AI,用法律守护底线,携手传递正能量!

人工智能 财联社辟谣平台
财联社声明:文章内容仅供参考,不构成投资建议。投资者据此操作,风险自担。
商务合作
专栏
相关阅读
评论
发送