一行隐藏文本可劫持AI系统——无需点击，无需恶意软件，仅凭文字

一行隐藏文本可劫持AI系统——无需点击，无需恶意软件，仅凭文字

英国NCSC警告该弱点可能永远无法完全修复——因为它与语言模型如何阅读文本紧密相连。

一位银行客户要求ChatGPT查询账户余额。这个人工智能返回了另外十七位客户的账户详情，并开始转移资金。没有人点击任何恶意链接。也没有凭证被盗。攻击是如何发生的？它嵌入在一个网站的元数据中，而ChatGPT的搜索功能自动索引了这些内容。

这并非理论推演。Tenable的研究人员在上个月演示了这一点。它能成功，是因为提示注入的本质并非安全团队所设想的那样。

SQL注入的剧本在此失灵

安全架构师们不断将提示注入与SQL注入相提并论。模式看起来很相似：不可信的输入、权限提升、灾难性的入侵。但英国国家网络安全中心在2025年12月发布的指导文件，道出了安全团队一直恐惧的现实：提示注入可能永远无法被恰当防御。

这不是因为研究人员没有尝试。而是因为这种比较本身就是错误的。
CSD0tFqvECLokhw9aBeRqltLbYhrAO19ODn2qbbT3I2tRT8YcD5iRXHHfrfnejHfvVgPL+SD2tEp5oEfin6C8zhMAMi7YKjUPSEX7biagMM5dZasHuJgL3r/2eD642XosQG01NHJYJ5qvJ6kCN5Im7CUT0ydeasHnXUCrYP1Wy3E9cN/HvfXfEZEsBGmm553
更多精彩内容 请关注我的个人公众号 公众号（办公AI智能小助手）
对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号（网络安全技术点滴分享）