我试图证明自己不是 AI——一位 BBC 记者的深度伪造身份危机

当你无法证明自己是人类时

一位 BBC 记者试图向他们的阿姨证明自己不是 AI 生成的深度伪造——但失败了。这篇发表在 BBC Future 上的故事凸显了生成式 AI 时代一个日益严峻的存在性挑战。

实验

记者尝试了各种方法来向阿姨证明他们是真实的人：

• 视频通话——被驳斥为可能是 AI 视频生成
• 分享个人记忆——可能从社交媒体抓取
• 实时对话——LLM 现在可以处理自然对话
• 物理存在展示——阿姨仍然不信

为什么现在这很重要

• 深度伪造质量加速提升——AI 视频和音频生成已达到普通观察者无法区分真假的程度
• 信任侵蚀——即使是亲密的家庭关系也受到 AI 怀疑论的影响
• 「说谎者红利」——真实内容可能被当作 AI 生成而被忽视，造成真相危机
• 验证基础设施滞后——证明真实性的技术解决方案未能跟上生成能力的发展

更广泛的趋势

这不仅是一个有趣的家庭轶事，它反映了一个系统性问题：

• 法院面临 AI 生成的证据
• 新闻编辑室努力验证信息来源
• 金融机构应对 AI 语音克隆欺诈
• 社交平台被合成内容淹没

正在采取的措施

• C2PA 内容凭证——媒体的数字来源标准
• 水印——AI 生成内容中的隐形标记
• 生物识别验证——用于数字身份的政府 ID 系统

但这些解决方案都没有实现广泛采用，使我们处于一个尴尬的过渡期——证明你是人类真的很难。

在 Hacker News 上获得 83 分，这个故事引起了每个经历过真实和合成内容之间日益模糊的人的共鸣。