财联社
财经通讯社
打开APP
AI“外挂”引发入口之争!淘宝、微信等多款App“出招”应对
Play
语音播报
00:00
/
00:00
00:00
语音播报由AI生成
①AI“外挂”带来安全风险,淘宝、微信、农业银行、建设银行等多款App“出招”应对;
                ②技术实现路径层面,超出授权范围的AI功能突破了“沙箱”机制,且“无障碍权限”技术可能遭到滥用。

财联社12月4日讯(记者 付静)AI“外挂”带来的安全风险引发多方担忧,正引起入口之争。最新消息称,淘宝、微信、农业银行、建设银行等多款App先后出现了针对AI手机屏幕共享监测以及风控的措施。

以“中国建设银行”App为例,该软件向用户发出的弹窗显示:“为了保障您的个人信息及资金安全,请退出录屏或共享软件‘AI操作手机’后再使用手机银行服务,谨防诈骗。”

媒体报道称,“此举被网友解读为手机App对AI手机助手凭借底层权限、实现跨应用操作所引发隐私担忧的侧面回应。”

当前,华为、荣耀、OPPO、vivo等厂商纷纷在最新旗舰机型里注入AI Agent能力,最新豆包手机助手技术预览版亦发布。手机厂商、AI解决方案提供方开始将“AI Agent高权限能力”作为技术卖点,但事实上,行业内,个别不合规的AI Agent通过使用无障碍权限等技术手段跨越应用边界,且不乏有大规模数据采集等行为,甚至导致用户隐私“裸奔”。

财联社记者前期通过查阅部分厂商隐私安全相关介绍注意到,部分模型可在设备本地部署、操作,保证⾼敏感隐私数据可以得到保护。但仍有部分操作在云端进行,或意味着用户在给出指令后就对设备“失去掌控”。

稍早有媒体报道,针对个别AI Agent的手机微信登录异常,微信相关人士则回应:此现象可能是触发了微信原有的安全风控措施,并非特别动作。

财联社记者亦关注到,“AI外挂”带来的安全隐患已在社交平台引发诸多讨论。例如,多位网友在社交平台称,部分高校要求下载的App要求用户开极高的权限。网友“吐槽”称,“每次启动都要先把淘宝京东拼多多等各种软件全部过一遍;这个软件操纵过我的手机,自己跳转页面开权限。”

更为值得关注的是,财联社记者采访获悉,已有“黑灰产”利用无障碍权限实现验证码自动采集、抢票购物自动化等操作。

技术实现路径层面,走出去智库总经理、高级合伙人陆俊秀向记者介绍,超出授权范围、采取非常规手段的AI功能突破了传统App的“沙箱隔离”机制。

此外,“无障碍权限”技术遭到了滥用。据悉,无障碍权限为安卓早期就有的权限,最初旨在为残障人士和老年人提供辅助功能。

“这类AI操作路径拟人化程度极高,传统反制手段难以识别。”北京汉华飞天信安科技有限公司总经理彭根称。

个人数据隐私如何在使用AI外挂时得到保护,这一多方普遍关心的话题,正引发法律与治理难题。另有受访者告诉财联社记者,由于潜在商业利益冲突,AI Agent运营方与第三方App的不正当竞争案件可能随时发生。

技术带来便利的同时,蕴含的安全风险也不容忽视,未来各厂商如何出招做好平衡,财联社记者将保持关注。

财联社记者行业观察 AIGC
财联社声明:文章内容仅供参考,不构成投资建议。投资者据此操作,风险自担。
商务合作
热门解锁
相关阅读
评论
发送
复制
取消
垃圾广告
政治激进内容
色情低俗内容
取消