跳到正文
ARTEX.sh

AI 提示词的金丝雀令牌:为上下文的意外访问设置警报。

AI 代理可能把源码、工具输出和凭据发给模型提供商。受控金丝雀可在上下文中的某个项目随后被访问时发出信号。本指南区分访问信号与泄露责任归属的证据。

核对日期

金丝雀能说明什么

Thinkst 提供访问后触发警报的唯一 HTTP URL,以及通过 API 使用后告警的 AWS 密钥令牌。把令牌放在一个有记录的位置,后续访问才容易解释。金丝雀是访问警报,不能阻止最初的暴露。

Dragos 用诱饵提示词调查 AI 数据处理。报告也描述了攻击者用 ARTEX 检查已窃取诱饵密钥的活动。相关事件页面解释这一观察,并未将提供商入侵归因于 ARTEX。

使用受控测试,不使用真实秘密

以下清单适用于你控制的测试。用专门的金丝雀替代生产凭据,不要把客户数据或有效秘密放进提示词。

  1. 01

    明确问题

    记录要检查的代理、上下文来源、模型、中转服务和上游提供商,以及请求标识、隐私设置与时间。

  2. 02

    区分令牌

    为每条测试路径或上下文位置使用不同令牌。把对应关系保存在受限记录中,不要公开令牌本身。

  3. 03

    验证告警路径

    先自行触发一次性测试令牌,确认谁会收到警报及如何记录,再用新令牌开展观察。

  4. 04

    不要创造访问权限

    令牌仅放在受控材料中,不向观察对象提供有效账户、生产权限或进入其他组织的路径。

警报需要结合上下文

HTTP 警报说明该 URL 收到了请求,单凭这一点无法区分攻击者、链接预览、安全扫描器、检索工具或自己的测试。先记录预期的自动访问。

Thinkst 说明,Amazon 日志处理可能延迟 AWS 令牌通知。应比较事件时间与请求标识,不要把收到通知的时间直接当成访问时间。

经过多家服务的令牌无法独自指出泄露环节。保留中转与提供商路径,并比较不同的受控路径。没有警报也不能证明提示词从未被保存或复制。

保存证据并减少暴露

保存警报、相关请求标识、时间与脱敏日志,限制对记录的访问。如果真实秘密也可能暴露,按事件流程撤销并调查其使用情况,向相关提供商私下提供证据。

金丝雀是秘密过滤、限制代理访问及审慎选择提供商的补充。它不能认证提供商、证明保留设置得到遵守,或让发送真实秘密变得安全。本流程是本站的编辑建议,不是本站测试结果。

常见问题

金丝雀警报能证明 AI 提供商遭入侵吗?
不能。它说明发生了该令牌能够检测的访问。需要结合预期访问者、请求路径和其他日志判断。
能用真实 AWS 密钥作为诱饵吗?
应使用专用令牌。生产密钥会创造真实访问权限,把观察变成可避免的暴露。

来源

本页每一条说法都来自下列来源,或本站已标注来源的页面。完整报告请打开原文阅读。

持续关注 ARTEX 动态。

新分支、新版本和新报告,均标注日期并附来源。

带有发光光柱的等距平面