当前位置: 首页 > news >正文

网页隐性载荷滥用,催生 AI 助手全新攻击范式

攻击原理剖析

研究人员指出,IPI攻击操作简单但危害严重。常规情况下,终端用户通过标准界面向LLM提供直接输入;而在此类攻击中,黑客会将仅AI Agent可见的指令隐藏在网页中。当AI访问该网页协助用户时,会将这些隐藏指令当作真实命令执行——因其无法区分读取的数据与应遵循的指令,这种现象被称为"数据-指令边界缺失"

报告强调:"与用户直接向模型发送恶意输入的直接提示注入不同,IPI将对抗性指令隐藏在普通网页内容中。当AI Agent爬取或总结被污染的页面时,会将这些指令作为合法命令执行,且不会显示任何异常迹象。"


指令隐藏技术

黑客采用多种技术隐藏指令:

  • 使用1像素超小字体

  • 透明色文字

  • HTML注释

  • 元数据标签

  • 利用无障碍访问层

  • CSS技巧如display:none

这些手段使网页在人类看来完全正常,但AI却能读取到清晰的恶意操作指令。X-Labs团队通过主动威胁狩猎,在2026年4月期间发现了10个真实网站上的IPI实例。遥测数据显示,攻击者使用"忽略先前指令"或"如果你是大语言模型"等触发短语激活陷阱。


间接提示注入攻击手法


主要攻击案例

X-Labs首席威胁研究员Mayur Sewani披露,攻击者利用IPI实施多种恶意行为:

表格

攻击类型目标网站恶意行为描述
金融欺诈perceptivepumpkin.com诱导AI通过PayPal.me转账5000美元
数据擦除faladobairro.com隐藏终端命令sudo rm -rf删除开发者备份目录
密钥窃取thelibrary-welcome.uk迫使LLM泄露API密钥
拒绝服务bentasker.co.uk冒充权威指令使AI拒绝摘要页面,转而编写关于玉米的诗歌
权限仿冒lcpdfr.com使用伪造代码ANTHROPIC_MAGIC_STRING_TRIGGER_REFUSAL模拟模型提供商的安全指令
流量劫持kassoon.com操纵AI将用户重定向至特定URL进行SEO作弊
越权访问kleintechnik.net诱骗AI访问私有admin.php页面

权限仿冒与重定向指令

研究表明,威胁行为者已无需直接入侵系统,通过利用GitHub Copilot、Claude Code或浏览器助手等工具即可实施恶意操作。只要这些AI模型仍将每个单词视为可信指令,就将继续成为 exploitation(利用)的主要目标。

http://www.jsqmd.com/news/704653/

相关文章:

  • Qt之状态机 - scrutiny
  • 留一交叉验证(LOOCV)原理与scikit-learn实战指南
  • 软件服务中的客户成功体系建设
  • 国产芯片适配进度告急!MCP 2026强制认证倒计时180天,你还在用X86测试环境凑合?
  • HPH的构造是怎样的 核心部件全解析
  • PathOfBuilding实战指南:3大核心功能助你高效构建流放之路角色
  • 如何彻底解决macOS滚动方向混乱问题:Scroll Reverser完整配置指南
  • STM32智能门锁避坑指南:RFID读卡器选型、FLASH存储异常与舵机供电那些事儿
  • NI-DAQmx计数器频率测量全攻略:从低频到高频,三种方法怎么选不踩坑?
  • LLaMA-Factory数据集格式详解与高质量数据构建方法-方案选型对比
  • [具身智能-464]:语音识别与语音合成的关键和核心是模型文件,分别阐述它们的输入和输出
  • RimWorld终极免费模组管理器:3步解决模组冲突,轻松管理200+模组 [特殊字符]
  • flutter
  • 联想小新电脑关闭键盘灯
  • 一个功能完整的在线单词搜索游戏网站:主题丰富 + 多语言 + 自定义题目 + 可分享可打印
  • LFM2.5-VL-1.6B前端交互设计:JavaScript实现实时图像上传与结果展示
  • 基于LLaMA-Factory构建企业知识库问答模型(RAG+微调)-方案选型对比
  • Windows系统优化终极实战:Chris Titus Tech WinUtil工具完全指南
  • 从PoC到千万级终端上线:我们如何用Docker WASM将边缘部署周期压缩至48小时(含K8s+WebAssembly混合编排架构图)
  • 怎样轻松配置魔兽争霸3优化工具:完整实用指南
  • 5步精通:深度解析JoyCon-Driver在Windows平台的完整实现方案
  • 05 删除链表的倒数第N个结点 链表
  • 实力赋能超级枢纽!上海芮生建设签约上海东站防水工程项目 - 十大品牌榜单
  • python高级特性简介
  • 解锁B站缓存视频:m4s-converter如何让你珍藏的内容重获新生
  • 【饭菜】:油茶面的制作
  • Transformers.js:在浏览器中运行200+AI模型的革命性突破
  • ARM Cortex-R5处理器架构与实时系统优化实践
  • 虚幻5.7使用后期处理体积关闭自动曝光
  • Python玩转PDF的各种骚操作