发生了什么

9月15日，Artificial Intelligence Underwriting Company（AIUC，一家检查AI代理安全的公司）宣布完成4000万美元A轮融资。TechCrunch的报道显示，Ribbit Capital领投，First Harmonic参与。AIUC此前完成了1500万美元种子轮融资，累计融资达到5500万美元。

公司由Rune Kvist和Rajiv Dattani创办。Kvist是Anthropic（人工智能公司）的早期员工。Dattani曾任METR（人工智能安全研究组织）首席运营官。AIUC称，Cursor、Lovable、Harvey和ElevenLabs是其客户。

它怎样检查

AI代理是能够接收目标、自己完成多个步骤的AI。AIUC希望企业在把重要工作交给它之前，先了解它的行为。

AIUC参考网络安全领域广泛使用的SOC 2，制定了AIUC-1标准。公司先向约250名安全与风险负责人提问，了解买方最想检查什么。之后，这些意见被用于设计标准和测试。

AIUC表示，它会安排约5000项测试。测试会观察AI面对绕过限制的指令、错误回答和信息泄露时的表现。AI代理可以执行测试，AI也可以分析数据。最后的审计结果由人类核验。客户会收到一份约100页的报告，里面写着哪些地方表现可靠，哪些地方仍需小心。

为什么重要

企业关心的不只是AI够不够聪明。它们还要向客户保证，系统不会做出超出范围的事情。AI越能自己完成复杂任务，企业越难在使用前确认这些边界。

因此，企业可能需要开发者之外的第三方审计。AIUC想把安全检查结果变成购买AI代理时的参考。METR过去主要检查先进AI能否稳定完成任务。AIUC则更强调企业部署前的安全判断。

已确认的信息

目前可以确认的是，AIUC获得了融资，并推出了AIUC-1和相关测试服务。约5000项测试、AI参与执行、人类进行最终核验，均来自公司对外说明。它们说明AIUC正在建立一种安全评估业务，但不等于所有被测试的AI都已经安全。

还不知道什么

一次测试只能记录某个时间点的表现。我们还不知道，测试结果能否准确预测AI在真实工作场景中使用数月后的表现。AIUC-1能否成为行业常用标准，也没有确定答案。客户是否因此减少事故，或是否真的改善了工作，目前公开信息仍然有限。

接下来关注

接下来要看，是否有更多企业采用AIUC-1，以及其他评估机构是否得到相近结果。还要看客户是否公布长期使用后的变化。如果安全检查成为购买AI代理的普通步骤，企业就能更清楚地说明哪些工作交给AI，哪些工作仍由人来确认。