🤖 AI

OpenAI与三名人工智能安全研究员结束合作:敏感信息处理引发调查

约2分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
敏感信息

不能随便给别人看的重要内容。

内部调查

公司自己查清事情经过。

人工智能安全机构

帮助人工智能少出问题的外部团队。

发生了什么

OpenAI(制作ChatGPT的人工智能公司)与安全团队中的三名研究员结束合作。科技媒体TechCrunch援引《华尔街日报》的报道说,三人被指把公司的机密信息分享给一家外部人工智能安全机构。

报道没有说出研究员、机构和信息的名字。社交平台上有人猜测当事人是谁,但TechCrunch表示没有核实。这意味着网上流传的名单不能当成事实。

公司给出的解释

OpenAI发言人对《华尔街日报》说,公司结束与三人的关系,是因为他们违反了访问和处理敏感信息的公司规定。公司说,内部调查确认,三人在既定流程之外处理了敏感信息。这违反了政策,也损害了工作所需要的信任。

这段解释只说明了公司的立场。它没有说明三人分享了什么、为什么分享,也没有说明信息是否造成了实际损害。研究员方面的完整说法也还没有出现在报道中。

更大的安全背景

三人离开前两天,美国报纸《纽约时报》报道称,OpenAI高管曾没有采纳员工对安全做法的警告。报道还说,一些员工认为安全被放在较低位置。OpenAI回应称,公司认真对待安全问题,也有内部渠道让员工提出意见,同时承认需要更快行动。

时间上的接近让两件事看起来有关联,但目前不能证明它们是同一场争议。TechCrunch还指出,不清楚三名研究员在向外部分享信息前,是否先使用过公司的内部渠道。

为什么值得关注

人工智能公司会接触尚未公开的模型、测试结果和安全资料。未经允许向外分享,可能伤害保密和信任。可是,安全研究也需要有人报告风险,并在必要时寻求独立检查。

这起事件正好把两种需要放在一起。现有报道不能证明三人是举报人,也不能证明他们只是违规泄密。现在就把他们称为英雄或坏人,都会超过已知事实。

已经确认和仍未确认的事

目前能确认的是,三名安全团队成员离开了OpenAI,公司把原因归于敏感信息处理不当和内部调查。研究员姓名、外部机构、信息内容、分享目的,都没有公开。

三人是否提出过安全担忧,以及这些担忧和离职原因是否有关,也仍不清楚。

接下来关注什么

接下来要看研究员或外部机构是否回应。还要看OpenAI会不会说明调查范围,以及是否改变信息处理规则。

更大的问题是,人工智能公司能否同时保护秘密,并让安全问题得到独立检查。

🤖 AI

OpenAI与三名安全研究员结束合作

📰 完整报道: OpenAI与三名人工智能安全研究员结束合作:敏感信息处理引发调查

公司说,他们没有按规定处理敏感信息。许多细节仍未公开。

约1分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
敏感信息

需要小心保护的重要内容。

内部渠道

公司里面用来提出问题的方法。

安全研究员

寻找人工智能问题的人。

💡 一句话总结

  • OpenAI是一家制作ChatGPT的人工智能公司。
  • 公司与三名安全研究员结束合作。
  • 公司说,他们没有按规定处理敏感信息。

事情怎么发生?

科技媒体TechCrunch援引美国报纸《华尔街日报》的报道说,三人曾把公司信息分享给外部人工智能安全机构。OpenAI说,这些信息属于需要保护的内容。公司内部调查认为,三人没有按既定流程处理信息。

报道没有公布研究员姓名。也没有公布外部机构名称。网上出现了一些猜测。TechCrunch没有核实这些名字。

为什么这件事难判断?

安全研究员的工作,是寻找人工智能可能带来的危险。他们发现问题后,需要把问题说出来。公司也要保护没有公开的研究资料。

秘密被不当分享,会损害信任。可是,只在公司内部检查,也可能让外部人难以了解问题。两种需要都很重要。

我们不知道三人为什么分享信息。我们也不知道他们有没有先走公司的内部渠道。因此,不能马上说他们是在举报,也不能马上说他们只是泄密。

指责不等于事实已经证明。OpenAI的声明只代表公司一方。研究员的解释仍然重要。

已知与未知

事情发生前两天,《纽约时报》报道了员工对OpenAI安全做法的担忧。OpenAI说,公司重视安全,也有让员工提出问题的渠道。公司还承认,需要更快行动。

已知的是,三人离开了公司。OpenAI给出了处理敏感信息的理由。未知的是,分享了什么、为何分享,以及研究员本人如何解释。

接下来,要看研究员、外部机构和OpenAI会不会补充说明。我们也要分清已经证实的事实,和网上的猜测。

🤖 AI

OpenAI里的三名安全研究员离开了

📰 完整报道: OpenAI与三名人工智能安全研究员结束合作:敏感信息处理引发调查

公司说,他们没有照规定保护公司的秘密。

约1分钟读完 Tiny Why编辑部 · 文:特派员 好奇

词语
安全研究员

寻找人工智能危险的人。

安全小组

帮助人工智能少出问题的小团队。

OpenAI是一家人工智能公司。

它制作ChatGPT。

三名安全研究员离开了。

他们寻找人工智能的危险。

OpenAI说,他们分享了公司的秘密。

秘密去了外面的安全小组。

这个小组帮助人工智能更安全。

公司说,他们没有照规定做。

公司已经查过这件事。

但三人的名字没有公布。

秘密内容也没有公布。

网上有人猜名字。

新闻媒体TechCrunch没有确认那些名字。

我们不知道他们为何这样做。

也不知道他们先告诉公司没有。

找危险很重要。

保护秘密也很重要。

现在不要急着评判他们。

等更多说明出来,再判断。

来源