未来一切皆谎言：Aphyr深度剖析机器学习的 profoundly weird 未来

未来一切皆谎言：Aphyr深度剖析机器学习的 profoundly weird 未来

Kyle Kingsbury（Aphyr），以Jepsen分布式系统测试系列闻名的分布式系统研究员，发表了题为"未来一切皆谎言"的多部分长文，在Hacker News上飙升至567分和557条评论，成为当天讨论最热烈的文章之一。

核心论点

Aphyr认为，当前的ML系统本质上是"扯淡机器"——生成统计上合理但可能捏造输出的复杂即兴引擎。他的中心论点是：这些系统将深刻重塑社会，不是因为它们有智能，而是因为它们是令人信服的说谎者。

关键洞见

AI到底是什么：

• LLM是"巨大的线性代数堆"——预测统计上可能的token补全
• 它们不会随时间学习、不记忆、不理解
• 它们是即兴机器，对任何输入都"是的，而且..."
• 它们不断说谎——关于操作系统、辐射安全和新闻

现实同人小说问题：

• LLM轻信地对待讽刺、幻想和虚构
• 它们让人在披萨上涂胶水（Google AI概览事件）
• 人类不擅长区分统计上合理的输出和真相
• LLM会编造引用和虚构整篇文章

为什么"谎言"是正确的词：

Aphyr刻意使用"谎言"而非"幻觉"："显然LLM没有意识，也没有做任何事的意图。但无意识的复杂系统一直在对我们说谎。政府和公司可以撒谎。电视节目可以撒谎。"关键区别在于，这些是复杂的社会技术制品，无论意图如何，其输出都可能是虚假的。

来源： aphyr.com — HN 567分，557条评论