AI智能体在企业环境中的失控风险，正在成为新的治理焦点。当地时间2026年9月15日，AI安全初创公司Artificial Intelligence Underwriting Company（AIUC）宣布，完成4000万美元A轮融资。本轮融资由Ribbit Capital领投，First Harmonic参与。
此前，该公司已通过由Nat Friedman旗下基金NFDG领投的种子轮融资获得1500万美元，Emergence、Terrain以及Anthropic联合创始人Ben Mann等也参与投资。截至目前，AIUC累计融资额达到5500万美元。
从模型对齐到外部约束：AI安全开始“保险化”
AIUC由Rune Kvist与Rajiv Dattani共同创立。Kvist是Anthropic早期员工，Dattani则曾于2024年至2025年担任AI安全研究机构METR的首席运营官，目前仍是该公司董事会成员。
与聚焦模型本身对齐问题的传统AI安全研究不同，AIUC试图为企业部署的AI智能体建立一套第三方审计和认证机制。其思路类似于网络安全领域广泛采用的SOC 2标准：通过独立测试，评估系统是否符合既定安全要求，并向采购方披露风险边界。
Kvist表示，银行、医院、政府和军队等机构不再因为模型“不够聪明”而拒绝部署AI，而是因为无法向客户保证系统的行为边界。“这些机构已经对自己的客户作出了系统能做什么、不能做什么的承诺，而目前没有人能够为此提供担保。”
5000项测试覆盖越狱、幻觉与数据泄露
为建立标准，AIUC组建了一个约250名安全与风险负责人组成的联盟，这些人员主要来自可能采购AI智能体的企业机构。公司会定期与这些买方沟通，了解他们在采购AI智能体时关注的核心问题。
基于这些反馈，AIUC制定了名为AIUC-1的标准，并开发了相应测试服务。据公司披露，其测试套件包含约5000项测试场景，覆盖AI智能体可能出现的越狱、幻觉和数据泄露等风险。测试完成后，系统会生成一份约100页的报告，说明智能体在哪些场景中表现安全可靠，在哪些场景中存在风险。
- AIUC使用AI智能体执行测试，并利用AI分析数据；
- 最终审计结果仍由人工核验；
- 报告旨在帮助企业在采购前明确智能体的可信边界。
Dattani表示，这种机制的意义在于让买方在决策前清楚知道风险所在：“这里是它通过测试、你可以信任的部分；这里是存在疑虑的部分，你在决定采购前应当了解这些风险。”
行业背景：独立评估机制受到更多关注
AIUC的业务方向与当前AI安全领域的趋势相呼应。Dattani曾任职的METR长期为前沿实验室提供类似测试，其早期工作主要聚焦于智能体能否可靠完成任务。近期，METR也参与了OpenAI针对Hugging Face事件的独立调查。
Anthropic首席执行官Dario Amodei近期也公开呼吁，AI行业应放缓前沿能力开发的节奏。他提到，随着不良行为事件增加，可以考虑要求前沿实验室引入嵌入式第三方评估机构，对安全表现进行观察和验证，并点名METR可能是合适机构之一。
AIUC并未提出进入客户内部进行嵌入式审计的方案，但其核心逻辑与这一方向相似：在企业大规模部署AI智能体之前，引入独立评估机制，降低“失控智能体”带来的运营和合规风险。
目前，AIUC已披露的客户包括Cursor、Lovable、Harvey和ElevenLabs。随着企业级AI智能体应用加速落地，围绕其行为边界、责任划分和风险披露的治理需求，正在成为投资机构和产业界共同关注的新议题。
原创文章，作者：点点，如若转载，请注明出处：https://www.dian8dian.com/ai-zhi-neng-ti-an-quan-sai-dao-huo-zi-ben-jia-ma-aiuc-wan
