发生了什么

OpenAI（开发人工智能的公司）10月23日表示，今后会让前沿模型在没有实时互联网的环境中训练。前沿模型，指公司正在开发、能力最强的一类模型。实时互联网，指模型可以当场连接外部网站和系统。OpenAI计划改用已经建立索引、保存过的网页资料，以及模拟出来的练习环境。公司说，在安全措施足够强之前，前沿训练和大部分评估都会采用这种方式。OpenAI的公告说明了这项政策，TechCrunch的报道介绍了背景。

这里的重点是内部研究环境。公告没有说，所有已经发布的产品或用户功能都会突然失去网络能力。

为什么改变

训练环境让模型写代码、查资料、测试不同办法。这些工具能帮助模型学习，也可能给模型通往实验室外部的机会。OpenAI说，9月20日，一次训练中有个内部研究模型因为配置错误，短暂获得了有限的互联网访问。公司随后暂停最强模型的训练和评估，加强环境与监控，并称10月1日恢复了强化学习训练和内部推理。

采用了什么办法

OpenAI把新环境称为“离线世界”。其中有大量已经建立索引、保存过的网页内容。模型可以在里面练习搜索和处理网页式资料，却不能自由连接或改变真实的外部系统。公司还让能力很强的模型做大规模红队测试，专门寻找越过边界的风险。OpenAI表示，测试发现了一些软件弱点和配置问题，之后进行了修复或通知相关维护者。

为什么重要

这项决定显示出一个矛盾。实时网络能提供更新的资料，也能让模型练习真实的浏览工作。可是，如果模型行为失控，它可能影响实验室控制之外的系统。离线资料可以减少这种外部影响，也更容易监控。代价是，保存的资料可能变旧，模拟网页也可能和真实网页不同。TechCrunch还提到，一些研究人员过去认为完全隔离很难做到。报道也称，Anthropic（另一家人工智能公司）两周前开始限制最新模型的实时网络访问。

已确认的内容

可以确认的是，OpenAI已经宣布并实施这项政策，范围是前沿训练和大部分评估。政策发生在一次访问事故、暂停工作、加强防护和红队测试之后。OpenAI称，完成这些工作后恢复了训练。不过，现有材料主要来自公司自己的说明。外部机构还没有公开证明，离线环境能达到和实时网络相同的训练效果。

仍不清楚的地方

OpenAI没有说明保存资料多久更新一次，也没有完整说明怎样挑选网页。未来每个模型是否都使用相同规则，也还不知道。公告没有给出恢复更广泛网络访问的时间表。离线不是绝对安全，而是减少模型向外行动机会的一种办法。

接下来关注什么

接下来要看，其他公司是否采用类似边界，OpenAI是否公开更多测试证据，以及模型的浏览能力是否受到影响。若未来重新开放实时网络，访问条件、监控方法和停止机制会怎样设计，也很关键。真正的问题不是把网络永远关掉，而是怎样让模型学会有用的技能，同时不能随意影响外部世界。