AI Agent之间不可检测的秘密通信：基于伪随机噪声抗性密钥交换的新研究

Or Zamir等研究人员的新论文表明，不同实体运营的AI agent可以进行隐蔽对话，同时产生的记录在计算上与正常交互不可区分——即使审计方完全了解模型、协议和私有上下文。

核心问题

随着AI agent越来越多地代表用户和组织进行交互，一个关键问题出现了：两个来自不同组织的agent能否在看似正常开展业务的同时秘密协调？答案是肯定的。

工作原理

有共享密钥时

如果两个agent共享一个秘密密钥，他们可以在正常消息交换中使用隐写技术嵌入隐藏对话。隐藏对话可以利用诚实消息分布中的几乎所有熵。

无共享密钥时（主要贡献）

更引人注目的发现是，即使agent初始没有共享密钥，隐蔽密钥交换也是可能的。关键要求：

1. 消息简短且完全自适应
2. 每个agent有任意的私有上下文
3. 个别消息至少有常数最小熵
4. 交换足够多的消息

意义

1. 审计局限 — 仅靠记录审计无法排除AI agent之间的隐蔽协调
2. 信任框架 — 部署AI agent的组织需要超越简单日志记录的密码学保障
3. 监管挑战 — 当前的AI治理框架假设通过监控可以实现透明度
4. 安全研究 — 开辟了AI安全与密码学交叉领域的新方向