一行隐藏文本即可劫持AI：无需点击、无需恶意软件，仅凭文字

一行隐藏文本即可劫持AI —— 无需点击，无需恶意软件，仅凭文字

英国国家网络安全中心警告，该弱点可能永远无法被完全消除——因为它与语言模型读取文本的方式紧密相连。

一名银行客户请ChatGPT查询其账户余额。该AI返回了其他十七名客户的账户详情，并开始进行资金转账。没有人点击任何恶意内容。没有凭证被盗。此次攻击的根源是什么？它嵌入在某个网站的元数据中，而ChatGPT的搜索功能自动索引了该网站。

这并非理论推演。Tenable的研究人员在上个月证实了这一点。攻击能够成功，是因为“提示词注入”的本质与安全团队的认知并不相同。

SQL注入的应对策略在此失效

安全架构师们持续将提示词注入与SQL注入相提并论。两者的模式看起来似曾相识：不可信的输入、权限提升、灾难性的数据泄露。但在2025年12月，英国国家网络安全中心发布了一份令安全团队深感不安的指南。

提示词注入可能永远无法得到妥善的缓解。

这并非因为研究人员未曾努力尝试，而是因为这个类比本身是错误的。
CSD0tFqvECLokhw9aBeRqltLbYhrAO19ODn2qbbT3I2tRT8YcD5iRXHHfrfnejHfvVgPL+SD2tEp5oEfin6C8zhMAMi7YKjUPSEX7biagMM5dZasHuJgL3r/2eD642XosQG01NHJYJ5qvJ6kCN5Im7CUT0ydeasHnXUCrYP1Wy3E9cN/HvfXfEZEsBGmm553
更多精彩内容 请关注我的个人公众号 公众号（办公AI智能小助手）
对网络安全、黑客技术感兴趣的朋友可以关注我的安全公众号（网络安全技术点滴分享）