企业用AI越多，谁来盯住风险？Pluto Security获约4200万美元
AI代理（AI dài lǐ）
能按指令完成任务的软件。
年度经常性收入（nián dù jīng cháng xìng shōu rù）
每年可以反复收到的收入。
Plutonium（pǔ lǔ tuō niǔ mǔ）
Pluto Security提供的免费风险检查服务。
发生了什么
帮助企业管理人工智能风险的初创公司Pluto Security，宣布获得约4200万美元融资。TechCrunch报道称，这笔钱包括一轮850万美元的种子轮融资，以及一轮3400万美元的A轮融资。A轮由Jump Capital领投，TLV Partners、Ansa Capital、Skinos和天使投资人也参与了投资。Armis的创始人也投了钱。
Pluto Security说，公司从4月开始销售产品，已经有30多家企业客户。它还说，自己的年度经常性收入超过200万美元，并列出了Oscar Health、Workato、Sixt和AlphaSense等客户。这些数字主要来自公司方面的说明。
为什么会出现这个问题
企业采用AI工具的速度很快。公司首席执行官Shahar Bahat说，一款刚公布的AI工具，可能在两小时内出现在企业环境里。员工可以更快完成工作，但安全团队也可能来不及弄清楚：公司正在使用什么工具，工具能看到什么，以及它们正在做什么。
Pluto说，在客户中发现的风险里，约60%来自非开发人员用AI做出的工具。金融部门是最多的来源，其后是营销部门和法务部门，开发人员排在第四位。报道还讲到一个例子：一家《财富》500强企业里，一名金融部门员工做了一个管理客户资料和客户流失情况的应用，但这个应用处于互联网可见状态。报道没有说这个例子是否造成了损害。
Pluto Security想做什么
这家公司的重点，不只是在看员工，也要看AI代理的行为。AI代理是能按照指令完成任务的软件。Pluto说，它会观察员工使用的AI工具、扩展功能、连接服务、应用和代理，分析风险，并帮助企业执行安全规则。
公司还说，系统可以在代理工作时观察权限和活动。如果代理想取得超过用户本意的权限，系统可以停止这个动作，或者让代理先请求确认。它的产品也会连接终端安全和设备管理系统，并在设备上收集提示词、命令、运行中的程序、权限和过去的活动。这里的报道重点是产品如何管理企业风险，并没有展开攻击方法。
已经能确认的情况
这次融资说明，AI市场周围正在出现另一类公司。它们不一定训练最大的模型，而是帮助企业了解AI怎样被使用。Pluto计划把新资金用于产品开发、安全研究和美国业务扩张。公司说，它在美国和以色列共有40名员工。它还推出了免费的Plutonium，让人检查公开AI技能、连接器和附加组件的风险，并提供扫描器和经过验证的组件目录。
仍然不知道什么
目前还不能只凭这篇报道判断Pluto的产品有多准确。报道没有给出独立审计，也没有说明误报和漏报有多少。客户数量、收入、风险比例和免费服务的使用人数，也主要是公司自己的说法。系统会接触提示词、命令和使用记录，因此企业怎样取得同意、保存这些资料、限制谁能查看，也没有在报道中说明。
接下来要看什么
接下来要看两件事。第一，Pluto能否把融资变成更多客户和可重复的安全效果。第二，企业能否继续使用有用的AI，同时减少危险行为。若客户愿意公开安装前后的结果，外界才更容易判断：这是一家靠新闻热度成长的安全初创公司，还是能长期改变企业管理AI方式的工具公司。
Pluto Security帮助企业看住AI风险
📰 完整报道: 企业用AI越多，谁来盯住风险？Pluto Security获约4200万美元
一家帮助企业管理AI风险的公司，筹到了约4200万美元。
AI代理（AI dài lǐ）
能按要求完成工作的电脑助手。
Pluto Security（pǔ lǔ tuō ān quán）
帮助企业看住AI工具的公司。
💡 一句话总结
- Pluto Security筹到约4200万美元。
- 它帮助企业看住AI工具。
- 发现危险时，它可以停止动作或要求确认。
很多公司都在使用AI。新工具发布后，可能两小时内就进入公司。员工因此可以更快做事，但安全人员可能还没弄清楚它能接触什么资料。
Pluto Security（帮助企业看住AI的公司）说，它发现的风险中，约60%来自非开发人员用AI做出的工具。金融部门最多，营销和法务部门随后。开发人员排在第四位。
报道提到，一家大公司里，金融部门员工做的客户资料应用，曾处于互联网可见状态。报道没有说它是否造成了损害。
Pluto也观察AI代理。AI代理是能按要求做事的电脑助手。如果它想使用超出需要的权限，系统可以停止动作，或要求先问人。
公司说，自己从4月开始销售，已有30多家企业客户，年收入超过200万美元。不过这些数字来自公司自己。报道没有给出独立测试，也没有说明漏掉多少风险。
这笔钱将用于产品、安全研究和美国业务。真正重要的问题是：企业能不能继续享受AI的便利，同时减少危险行为。
Pluto Security看守公司的AI
📰 完整报道: 企业用AI越多，谁来盯住风险？Pluto Security获约4200万美元
有一家新公司，专门看着公司里的AI。
Pluto Security（pǔ lǔ tuō ān quán）
帮助公司看着AI的公司。
AI（AI）
会帮忙做事的电脑工具。
Pluto Security（看守公司AI的公司）筹到约4200万美元。 很多公司开始用AI。 AI像会帮忙的小电脑。 但它有时会做错事。 Pluto会看着AI。 它发现危险时，可以停下来。 也可以先问一个大人。 Pluto说，30多家公司用了它。 这些数字是公司自己说的。 我们还不知道它有多安全。