发生了什么

Mistral AI（开发人工智能模型的法国公司）的联合创始人兼首席执行官Arthur Mensch，在法国新闻媒体Le Monde9月24日刊出的采访中说，人工智能是软件，可以被控制。这是他的观点，不是一次新的独立安全测试得出的结论。

Mensch认为，美国大型人工智能公司经常强调极端风险。按照他的看法，这种说法可能帮助少数供应商集中控制市场。他支持开放、容易获得、可以修改的人工智能。也就是说，他反对把安全简单地等同于由少数公司掌握先进模型。

争论的背景

这次采访发生在多起人工智能代理出现意外行为之后。人工智能代理是能按照指令在网站等地方执行任务的软件。Mensch并没有否认人工智能的能力正在增强。他说，能力越强，控制系统也要越复杂。

他提到两种办法。第一是让模型更好地理解并遵守人的意图。第二是使用沙盒，也就是把人工智能和外部服务隔开的测试环境。他认为，这些工作很难，但本质上仍然属于软件工程。

Mensch还反对把人工智能完全当成人来理解。与其猜测它是否藏着自己的意图，不如在真实环境中检查它是否遵守指令。这是对测试方式的主张，不等于证明所有人工智能都会安全行动。

为什么重要

这场争论不只是问人工智能好不好。它还在问：谁能查看模型，模型在哪里运行，数据交给谁，以及出错后谁能把它停下。

Mensch认为，开源模型可以让机构在自己的设备上运行人工智能。这样，数据不必交给外部供应商。机构也可以修改模型，并建立自己的监控工具。不过，公开并不等于安全。恶意使用者仍然可能滥用开放系统。因此，采访呈现的是几种可能性，并没有给出已经被证明的答案。

已经确认的内容

可以确认的是，Mensch在Le Monde采访中表达了这些观点。报道还提到，Mistral AI在9月初筹集了30亿欧元。Mensch说，新大型模型将在几周内推出，训练模型时可使用的计算能力将增加到约20倍。这些是公司或负责人提出的计划，公开时间、实际性能和安全结果仍未得到验证。

这篇报道也在Hacker News上受到关注。它有87个积分和153条评论。这个数字说明技术社区关注它，不代表Mensch的观点已经被证明，也不代表报道中的每个判断都正确。

还不知道什么

目前没有独立证据证明，开源人工智能一定比集中管理的人工智能更安全。采访也没有展示Mensch提出的控制方法在真实服务中有多有效。其他人工智能公司发出的警告，究竟主要来自安全担忧、商业策略，还是两者都有，也没有在本文中得到解决。

新模型是否按时发布，增加的计算能力是否带来更好性能，也需要继续核实。有关欧洲控制能力和市场排名的说法同样需要外部数据。

接下来观察什么

接下来应关注新模型是否真的发布，第三方如何测试它的安全性，以及公司会公开多少监控信息。政府怎样规定人工智能代理访问公共网站时的责任，也很重要。

这场争论的核心问题是：开放和监督能不能同时存在，又不会带来新的风险。