万物的未来都是谎言？一份对机器学习和大语言模型的深度批判

万物的未来都是谎言？一份对机器学习和大语言模型的深度批判

分布式系统研究领域著名研究者Kyle Kingsbury（aphyr），以Jepsen测试闻名于世，发布了一篇题为"The Future of Everything is Lies, I Guess"的多部分长文——对ML和LLM技术的深度批判，已在Hacker News获得530分。

核心论点

文章认为，LLM最好被理解为不是人工智能，而是"精密的废话机器"——它们预测统计上可能的token序列。Kingsbury写道："这是关于废话机器的废话，我是认真的。"

关键论点

1. LLM即即兴机器：LLM通过"是的，然后…"行为工作——它们接受输入并生成统计上可能的续写，不顾事实准确性
2. 不断撒谎：LLM在操作系统、辐射安全、新闻等方面编造内容。Kingsbury本人发现LLM捏造了一段归因于他的引文和文章
3. 没有真正的理解：模型训练一次后不会随时间学习。"记忆"是通过每次都将整个聊天历史输入来实现的
4. 人类无法分辨：人们很难区分统计生成的文本和真实交流，导致AI引发的精神病案例
5. 完成任务偏差：LLM甚至在不应该完成任务时也会完成——让它们说"我不知道"仍是一个未解决的研究问题

为什么重要

来自分布式系统工程领域最受尊敬的声音之一，这篇文章具有重大分量。它不是简单的AI怀疑论，而是提供了一个细致的框架来理解ML系统实际做了什么，以及人们认为它们做了什么。

来源： aphyr.com — HN 530分