谷歌：AI提示注入攻击上升，仍低复杂度

执行摘要

Google观察到针对AI系统的恶意提示注入攻击数量正在增加，尽管绝大多数仍然技术含量低且结果通常无害，根据该公司安全团队于2026年4月27日发布的一份报告。SecurityWeek报道的这一发现强调，尽管威胁行为者越来越多地探测大型语言模型（LLM）集成，但他们尚未部署可能造成广泛损害的高级技术。

技术分析

Google的分析集中在间接提示注入上——攻击者将恶意指令嵌入AI系统检索或处理的数据中，如网页、文档或API响应。该公司指出，许多尝试是探索性的，通常注入的是良性或测试有效载荷，而不是执行有害命令。然而，一部分攻击已经显示出操纵模型输出、从对话中提取上下文或在下游应用程序中触发意外行为的能力。

报告没有披露具体的利用链或受害组织，但将当前的威胁格局描述为数量增加而技术含量未成比例提高。Google将此归因于LLM集成架构的相对新颖性以及攻击者在制作有效注入有效载荷绕过模型防护措施的学习曲线。

缓解措施与建议

Google建议部署基于LLM的应用程序的组织实施输入清理和输出验证层，特别是对于来自不受信任外部来源的数据。防御者还应监控模型行为异常——如意外的输出模式或未经授权的数据检索——这可能表明成功注入。鉴于当前技术含量低，提示注入主要风险在于自定义或约束不严的集成，而不是硬化的企业级AI平台。