Goodfire 融资 700 万美元，打破生成式 AI 模型的黑箱

Goodfire 宣布完成了 700 万美元的种子轮融资，以推进其揭开生成性 AI 模型神秘面纱的使命。这家初创公司开发的工具使开发者能够通过提供对 AI 系统内部工作原理的深入洞察来调试 AI 系统。

Lightspeed Venture Partners 领投了这一轮融资，Menlo Ventures、South Park Commons、Work-Bench、Juniper Ventures、Mythos Ventures、Bluebirds Capital 以及一些知名天使投资者参与了投资。这笔资金将用于扩大工程和研究团队，以及增强 Goodfire 的核心技术。

生成模型（例如大型语言模型）正变得越来越复杂，使得它们难以理解和调试。这些模型的黑箱特性为安全和可靠的部署带来了重大挑战——2024 年麦肯锡的一项调查显示，44% 的商业领袖至少经历过一次由于模型意外行为导致的负面后果。

为了解决这个问题，研究人员和开发者正在转向一种称为机制解释性（mechanistic interpretability）的新方法。机制解释性是研究 AI 模型如何推理和做出决策的学科，旨在详细理解它们的内部工作原理。

Goodfire 的产品是第一个将解释性研究应用于实际理解和编辑 AI 模型行为的产品。他们的产品将为开发者提供对模型内部过程的更深入洞察，并提供精确的控制来引导模型输出（类似于对模型进行“脑部手术”）。此外，基于解释性的方法可以减少昂贵的重新训练或试错式提示工程的需求。

Lightspeed Venture Partners 的合伙人 Nnamdi Iregbulem 表示：“解释性正在成为 AI 的一个关键构建块。Goodfire 的工具将成为 AI 开发中的基本原语，为开发者与模型以全新的方式进行交互打开了大门。”

Goodfire 团队汇集了 AI 解释性和初创公司扩展方面的专家。Goodfire 的首席执行官兼联合创始人 Eric Ho 表示：“我们因使命而团结在一起，那就是从根本上推进人类对高级 AI 系统的理解。通过使 AI 模型更易于解释和编辑，我们正在为更安全、更可靠、更有益的 AI 技术铺平道路。”