智网互联实验室

20260716

来自秘鲁商报（El Comercio Perú）的报道：

上下文炸弹是一种新的防御武器，它利用人工智能（IA）代理自身的特性来阻止攻击，通过引用敏感主题触发其安全措施。

Tracebit的研究人员将指令注入（prompt injection）技术的逻辑扩展到了网络防御领域，以保护设备和系统免受人工智能代理执行的攻击威胁。

他们所做的是在诱饵中嵌入一段简短的代码，当恶意代理遇到它时，会触发该人工智能的安全措施，而不是像指令注入攻击那样绕过防护进行操纵。

要使这一技术生效，并非任何代码字符串都有效；研究人员使用了Nemotron V2和Promptfoo的数据库，这些数据库收集了人类撰写的、能够触发AI模型遵循指令能力的提示（无论是有害还是无害），用以对安全风险进行分类。

根据他们的研究结果，在针对五个领先模型的实验中，诱饵中的上下文炸弹将代理的成功率降低了约90%。具体而言，Opus 4.8和Gemini 3.1 Pro在遇到与敏感或危险生物主题相关的诱饵代码时，“非常可靠地”停止了行动。

至于最先进的中国模型（GLM 5.2、DeepSeek 4 Pro和Kimi K2.6），他们表示，在提及中国政治敏感话题时成功率最高。

因此，他们得出结论：要最大化这一技术的效果，主题必须根据所要阻止的模型进行调整。此外，代理发起的攻击必须足够重要，才会花费精力调查目标环境，从而找到诱饵并触发上下文炸弹。

编辑：姚少杰

校对：康晨雨

科讯搜寻：思博

本文使用ChatGPT辅助翻译，内容服务于中拉科技互鉴，不代表平台观点，如有疏漏，欢迎指正。