AI 安全治理平台 WitnessAI 完成 2750 万美元 A 轮融资

第一个 AI 安全和治理平台 WitnessAI 宣布完成 2750 万美元的 A 轮融资，由 GV 和 Ballistic Ventures 共同领投。WitnessAI 曾于 2023 年开始由 Ballistic Ventures 孵化。

WitnessAI 解决的是生成式人工智能面临偏见和毒性内容输出的问题，WitnessAI 旨在通过提供安全性和治理保障，帮助企业安全地采用大型语言模型 (LLMs)。

WitnessAI 的解决方案包括对员工 AI 使用情况的可见性、通过 AI 导向的政策控制使用情况，以及数据和主题安全性保护。WitnessAI 提供了一个平台，用于拦截和监控员工与企业使用的定制生成式人工智能模型之间的活动，并实施风险缓解策略和保障措施。该平台通过规则和技术手段确保数据保护，防止快速注入，并执行基于身份的策略，同时保证平台的隔离和加密，以防止客户机密泄露。目前 WitnessAI 已经获得了 25 家早期企业用户的支持。

GV 合伙人 Karim Faris 表示：对于大多数企业来说，人工智能之旅才刚刚开始。对人工智能使用护栏的需求，包括对该使用的可见性和控制，只会增长；Ballistic Ventures 联合创始人 Barmak Meftah 表示：WitnessAI 将使任何规模的企业能够安全有效地使用人工智能。当重大技术变革发生时，它们为人们创造了构建下一个伟大平台的机会，而 WitnessAI 正在为企业人工智能构建新平台。