LLM 不可阻挡论：AI 进步不可阻止的危险信念及其对社会的意义

可能决定 AI 未来的意识形态

「LLM 不可阻挡论」认为大语言模型的进步是不可阻挡的自然力量——扩展将不可避免地通向 AGI，监管是徒劳的，社会必须适应 AI 产生的任何结果。这一概念在科技圈特别是投资者和工程师中获得了显著关注。

什么是 LLM 不可阻挡论

该术语描述了一组信念：缩放定律将无限期持续、无论具体研究方向如何更好的模型都是不可避免的、减缓或监管 AI 发展的尝试是徒劳的、AGI 即将到来且无法阻止、社会应为 AGI 做准备而非试图阻止它。

为何这种思维是危险的

1. 自我实现的预言 — 相信 AGI 不可避免可能导致鲁莽投资和部署
2. 监管瘫痪 — 如果进步不可阻挡，为何监管？这符合行业利益
3. 问责减少 — 如果 AI 结果不可避免，无人对负面后果负责
4. 资源错配 — 对缩放的无条件信仰可能将资源从重要的安全研究中转移

证据

支持者指出缩放带来的一贯性能改进、模型能力没有「墙」的证据、跨行业的快速采用。怀疑者注意到扩展成本变得天文数字般庞大、基准测试的边际收益递减、许多现实部署未能交付承诺价值、推理和可靠性的根本限制持续存在。

中间立场

AI 进步是真实的但不是不可避免的。轨迹取决于持续投资、技术突破、监管框架和社会接受度。将其视为不可阻挡不仅是智力上的懒惰——而且是战略上的危险。

应该怎么做

主动治理、多元化研究、现实期望、问责框架。