ESET研究人员发现名为 PromptSpy 的 Android 恶意软件,这是首个已知利用 Google Gemini 生成式 AI 进行用户界面操纵的案例。该程序通过向 AI 发送屏幕 XML 数据获取操作指令,从而将自身锁定在任务列表中以实现持久化运行。其核心功能是部署 VNC 模块,允许攻击者远程控制设备并窃取锁屏密码或录制屏幕。
该恶意软件主要针对阿根廷用户,通过伪装成大通银行的虚假网站进行分发。技术分析显示代码中包含简体中文调试字符串,表明其可能在中文语言环境下开发。目前 Google Play 保护机制已支持识别该威胁,受影响用户可通过安全模式卸载名为 MorganArg 的恶意应用。
Amazon Web Services(AWS)在近几个月内因自家 AI 编程工具错误导致至少两次服务中断。去年 12 月,AWS 一套客户成本分析系统因工程师允许 Kiro AI 编程工具自主操作而中断 13 小时,因该工具判断最佳解决方案是"删除并重建环境"。亚马逊回应称这是"用户错误而非 AI 错误",12 月事件仅影响中国大陆部分地区的单一服务。
AWS 占亚马逊营业利润的 60%,正大力推广包括"智能体"在内能根据指令独立操作的 AI 工具。12 月事件后,亚马逊实施强制同行评审和员工培训等多项安全措施,意图防止类似事故再次发生。