Goodfire 融资700万美元 打破生成式AI模型的黑箱

旧金山——（商业线）——今天，Goodfire宣布完成了700万美元的种子轮融资，以推进其揭开生成性AI模型神秘面纱的使命。这家初创公司开发的工具使开发者能够通过提供对AI系统内部工作原理的深入洞察来调试AI系统。Lightspeed Venture Partners领投了这一轮融资，Menlo Ventures、South Park Commons、Work-Bench、Juniper Ventures、Mythos Ventures、Bluebirds Capital以及一些知名天使投资者参与了投资。这笔资金将用于扩大工程和研究团队，以及增强Goodfire的核心技术。

生成模型（例如大型语言模型）正变得越来越复杂，使得它们难以理解和调试。这些模型的黑箱特性为安全和可靠的部署带来了重大挑战——2024年麦肯锡的一项调查显示，44%的商业领袖至少经历过一次由于模型意外行为导致的负面后果。为了解决这个问题，研究人员和开发者正在转向一种称为机制解释性（mechanistic interpretability）的新方法。机制解释性是研究AI模型如何推理和做出决策的学科，旨在详细理解它们的内部工作原理。

Goodfire的产品是第一个将解释性研究应用于实际理解和编辑AI模型行为的产品。他们的产品将为开发者提供对模型内部过程的更深入洞察，并提供精确的控制来引导模型输出（类似于对模型进行“脑部手术”）。此外，基于解释性的方法可以减少昂贵的重新训练或试错式提示工程的需求。

Lightspeed Venture Partners的合伙人Nnamdi Iregbulem表示：“解释性正在成为AI的一个关键构建块。Goodfire的工具将成为AI开发中的基本原语，为开发者与模型以全新的方式进行交互打开了大门。我们支持Goodfire来引领AI堆栈中的这一关键层。”

Goodfire团队汇集了AI解释性和初创公司扩展方面的专家。Goodfire的首席执行官兼联合创始人Eric Ho表示：“我们因使命而团结在一起，那就是从根本上推进人类对高级AI系统的理解。通过使AI模型更易于解释和编辑，我们正在为更安全、更可靠、更有益的AI技术铺平道路。”

Nick Cammarata，一位曾在OpenAI工作的领先解释性研究员，强调了Goodfire工作的重要性：“目前前沿研究和解释性方法的实际使用之间存在一个关键差距。Goodfire团队是弥合这一差距的最佳团队。”

Goodfire正在寻找具有代理性、使命驱动、友善和深思熟虑的人来帮助我们构建解释性的未来。准备好解码AI并确保其未来了吗？申请加入。

关于Goodfire：

Goodfire是一家总部位于旧金山的公益公司，致力于推进人类对高级AI系统的理解。我们构建尖端工具，使开发者能够理解、编辑和调试AI模型。通过增强AI开发中的透明度和控制，我们旨在降低灾难性风险，同时促进更安全、更有益的AI系统的创造。