OpenAI与三名人工智能安全研究员结束合作:敏感信息处理引发调查
敏感信息
不能随便给别人看的重要内容。
内部调查
公司自己查清事情经过。
人工智能安全机构
帮助人工智能少出问题的外部团队。
发生了什么
OpenAI(制作ChatGPT的人工智能公司)与安全团队中的三名研究员结束合作。科技媒体TechCrunch援引《华尔街日报》的报道说,三人被指把公司的机密信息分享给一家外部人工智能安全机构。
报道没有说出研究员、机构和信息的名字。社交平台上有人猜测当事人是谁,但TechCrunch表示没有核实。这意味着网上流传的名单不能当成事实。
公司给出的解释
OpenAI发言人对《华尔街日报》说,公司结束与三人的关系,是因为他们违反了访问和处理敏感信息的公司规定。公司说,内部调查确认,三人在既定流程之外处理了敏感信息。这违反了政策,也损害了工作所需要的信任。
这段解释只说明了公司的立场。它没有说明三人分享了什么、为什么分享,也没有说明信息是否造成了实际损害。研究员方面的完整说法也还没有出现在报道中。
更大的安全背景
三人离开前两天,美国报纸《纽约时报》报道称,OpenAI高管曾没有采纳员工对安全做法的警告。报道还说,一些员工认为安全被放在较低位置。OpenAI回应称,公司认真对待安全问题,也有内部渠道让员工提出意见,同时承认需要更快行动。
时间上的接近让两件事看起来有关联,但目前不能证明它们是同一场争议。TechCrunch还指出,不清楚三名研究员在向外部分享信息前,是否先使用过公司的内部渠道。
为什么值得关注
人工智能公司会接触尚未公开的模型、测试结果和安全资料。未经允许向外分享,可能伤害保密和信任。可是,安全研究也需要有人报告风险,并在必要时寻求独立检查。
这起事件正好把两种需要放在一起。现有报道不能证明三人是举报人,也不能证明他们只是违规泄密。现在就把他们称为英雄或坏人,都会超过已知事实。
已经确认和仍未确认的事
目前能确认的是,三名安全团队成员离开了OpenAI,公司把原因归于敏感信息处理不当和内部调查。研究员姓名、外部机构、信息内容、分享目的,都没有公开。
三人是否提出过安全担忧,以及这些担忧和离职原因是否有关,也仍不清楚。
接下来关注什么
接下来要看研究员或外部机构是否回应。还要看OpenAI会不会说明调查范围,以及是否改变信息处理规则。
更大的问题是,人工智能公司能否同时保护秘密,并让安全问题得到独立检查。
OpenAI与三名安全研究员结束合作
📰 完整报道: OpenAI与三名人工智能安全研究员结束合作:敏感信息处理引发调查
公司说,他们没有按规定处理敏感信息。许多细节仍未公开。
敏感信息
需要小心保护的重要内容。
内部渠道
公司里面用来提出问题的方法。
安全研究员
寻找人工智能问题的人。
💡 一句话总结
- OpenAI是一家制作ChatGPT的人工智能公司。
- 公司与三名安全研究员结束合作。
- 公司说,他们没有按规定处理敏感信息。
事情怎么发生?
科技媒体TechCrunch援引美国报纸《华尔街日报》的报道说,三人曾把公司信息分享给外部人工智能安全机构。OpenAI说,这些信息属于需要保护的内容。公司内部调查认为,三人没有按既定流程处理信息。
报道没有公布研究员姓名。也没有公布外部机构名称。网上出现了一些猜测。TechCrunch没有核实这些名字。
为什么这件事难判断?
安全研究员的工作,是寻找人工智能可能带来的危险。他们发现问题后,需要把问题说出来。公司也要保护没有公开的研究资料。
秘密被不当分享,会损害信任。可是,只在公司内部检查,也可能让外部人难以了解问题。两种需要都很重要。
我们不知道三人为什么分享信息。我们也不知道他们有没有先走公司的内部渠道。因此,不能马上说他们是在举报,也不能马上说他们只是泄密。
指责不等于事实已经证明。OpenAI的声明只代表公司一方。研究员的解释仍然重要。
已知与未知
事情发生前两天,《纽约时报》报道了员工对OpenAI安全做法的担忧。OpenAI说,公司重视安全,也有让员工提出问题的渠道。公司还承认,需要更快行动。
已知的是,三人离开了公司。OpenAI给出了处理敏感信息的理由。未知的是,分享了什么、为何分享,以及研究员本人如何解释。
接下来,要看研究员、外部机构和OpenAI会不会补充说明。我们也要分清已经证实的事实,和网上的猜测。
OpenAI里的三名安全研究员离开了
📰 完整报道: OpenAI与三名人工智能安全研究员结束合作:敏感信息处理引发调查
公司说,他们没有照规定保护公司的秘密。
安全研究员
寻找人工智能危险的人。
安全小组
帮助人工智能少出问题的小团队。
OpenAI是一家人工智能公司。
它制作ChatGPT。
三名安全研究员离开了。
他们寻找人工智能的危险。
OpenAI说,他们分享了公司的秘密。
秘密去了外面的安全小组。
这个小组帮助人工智能更安全。
公司说,他们没有照规定做。
公司已经查过这件事。
但三人的名字没有公布。
秘密内容也没有公布。
网上有人猜名字。
新闻媒体TechCrunch没有确认那些名字。
我们不知道他们为何这样做。
也不知道他们先告诉公司没有。
找危险很重要。
保护秘密也很重要。
现在不要急着评判他们。
等更多说明出来,再判断。