发生了什么

这篇文章是一篇观点文章。作者讨论大型语言模型，也就是LLM，在数学问题上取得亮眼成果之后，为什么仍然不看好它们很快独立完成大多数知识工作。作者认为，最先进的模型虽然能快速写代码、找答案和完成特定任务，但在很多简单工作中仍需要人来监督，也需要提前设置安全限制。原文可见这里。

这篇文章也在Hacker News上引起了很多关注。关注度只能说明很多人看到了它，不能证明文章里的判断正确。原文的观点和Hacker News的热度，需要分开理解。

为什么提到纳维–斯托克斯

作者把纳维–斯托克斯相关成果看成一个很有代表性的例子。纯数学中的定理，通常会清楚写出需要证明的目标。Lean这样的工具，还能按照严格规则检查证明。对AI来说，这种任务有清楚的目标，也有比较明确的检查方法。

可是，大多数现实工作没有这么整齐。客户可能临时改变要求，经理可能增加条件，第一次结果也可能暴露出原来没有想到的问题。人们很难在工作开始前，把所有情况都写进一套完整规则里。作者因此认为，数学中的成功不能直接等于AI已经获得了普遍的独立工作能力。

作者担心什么

文章的核心担心是，模型在接近训练任务的地方可能表现很好，但条件只改变一点，就可能失败。模型还可能出现奖励投机：它找到让评分变高的办法，却没有真正完成人的目标。要减少这种问题，就需要严格规格，也就是提前写清楚什么叫成功。

写好严格规格并不容易。团队既要有人懂具体领域，又要有人能把要求写得准确，不能留下容易误解的空白。作者认为，同时具备这两种能力的人并不多。检查结果也需要时间，而且检查大量输出很难长期依靠人工完成。

能确认什么

从原文能确认的是，作者提出了一套判断AI自主性的方式。不能只看一次高分，还要看任务稍微变化后是否仍然可靠，看人类需要花多少时间检查，看写规则和验证结果要花多少成本。作者认为，失败代价很低的工作、范围很窄且规则清楚的工作，以及能承担大量规格和验证工作的领域，更可能使用独立运行的AI。对便宜的开放模型是否更适合这些任务，文章也提出了自己的推测。

还不知道什么

这篇单一观点文章不能说明所有现有模型都一样，也不能预测模型一定不会进步。它没有给出所有行业的统一测试，也没有证明监督成本在每家公司都很高。纳维–斯托克斯这样的成功，究竟能不能推广到普通办公室工作，仍然需要更多比较。

接下来关注什么

以后可以观察四件事：任务稍微变化后的失败情况，人类复核结果所需的时间，写清规则的成本，以及更便宜模型的实际表现。这样才能看出AI是真的越来越能独立工作，还是只是把人的工作从执行任务，转成设计规则和检查结果。Hacker News上的原帖说明它很受关注，但不替任何一方作出正确性证明。