三位哈佛辍学生，如何将专用芯片变成估值百亿美元的 AI 算力公司

本文来自 Jarsy 的研究分享，原文可在这里阅读，我之前曾详细介绍过他们在做的事情《前 Uber 早期成员创立 Jarsy，让普通人也可以合规投资优秀创业公司》。

1.推理正成为 AI 算力的主战场

正如我们在 Jarsy Research #22《定制 AI 芯片时代》中所分析的，随着 AI 规模与成本不断攀升，专用处理器正在迎来新的发展机会。我们将进一步深入研究其中几家代表性初创公司，首先聚焦 Etched，以及它对前沿 AI 推理的集中押注。

训练（Training）负责构建模型；推理（Inference）则是在用户或其他 AI 智能体提出请求时运行模型。随着应用生成的 token 越来越多、智能体反复调用模型，推理正成为 AI 成本中日益重要的部分。GPU 的优势在于高度可编程，并拥有成熟的 CUDA 生态，但这种灵活性也会带来芯片面积、功耗与数据搬运方面的额外开销。Etched 认为，AI 推理已经足够成熟和可预测，值得采用更深度的专用化设计，从而用每一美元和每一瓦电力生成更多有用的 token。投资者也开始认同这一判断：2026 年 7 月，红杉资本领投 Etched 3 亿美元 C 轮融资，公司估值达到 103 亿美元。

2.创始人的故事

Etched 现任 CEO Gavin Uberti 很早便开始探索硬件与软件的交界地带。他曾参与 AI 编译器基础设施开发，并为 Apache TVM 开发 Cortex-M 后端。编写底层代码的经历让他意识到，通用芯片的大量资源被用于搬运数据和维持灵活性，而非执行 AI 模型反复需要的核心计算。

在哈佛，Uberti 找到了重要的技术伙伴 Chris Zhu。Zhu 主修数学和计算机科学，拥有组合数学与高性能计算经验。Uberti 休学期间，Zhu 留在校园，两人每隔一天便通过 Zoom 推进这个始于宿舍的项目。第二年春天，面对面的合作让他们确信，值得离开哈佛，全职创办 Etched。

第三位创始人的信念来自另一段经历。Robert Wachen 是 Uberti 的大学室友，现任 Etched 总裁。16 岁时，他背部的一个肿块被确诊为第四期骨癌，生存概率不足 30%。手术的生存希望更大，却可能令他再也无法行走；放疗可以保留行动能力，却会降低存活概率。他选择了手术，后来仍不得不接受放疗，并经历了近两年的治疗和重新学习走路。Wachen 曾说，这段经历让他不断思考：如果人生失而复得，自己究竟要用它来做什么？

联合创始人 Robert Wachen、Gavin Uberti 与 Chris Zhu。图片来源：CNBC、Etched

这个问题后来成为 Etched 创业故事的一部分。GPT-3 第一次回应 Wachen 时，他便被 AI 深深吸引。OpenAI 推出具备图像理解能力的 GPT-4V 后，他上传了一张确诊前的背部照片，请模型像医生一样分析。几秒钟内，模型便判断肿块可能是肿瘤，并建议接受 MRI 检查，而他的医生花了数月才得出相同结论。随后，屏幕提示他当天的图片额度已经用尽。在 Wachen 看来，这一刻同时展现了 AI 的潜力，以及普及这种能力所面临的算力短缺。他与 Uberti 得出了相同的结论：智能可能变得充裕，但承载和提供这种智能的基础设施尚不存在。

Etched 的不同之处，不仅在于创始人的年轻，更在于他们没有传统的半导体行业履历。

Cerebras、Groq 和 SambaNova 均由资深行业人士创立，而 Etched 的三位创始人当时仍是哈佛学生。2022 年，他们创办 Etched，随后离开哈佛全职创业；2024 年，三人同时入选 Thiel Fellowship，成为少数全体成员共同获选的创始团队之一。

他们对 AI 发展的方向判断得很早，也因此经历了一段艰难时期。2023 年，很少有投资者相信 Transformer 已经足够稳定，值得围绕它设计高度专用的芯片；更少有人相信，几名大学辍学生能够真正把芯片造出来。创始人带着一份约 30 页的技术论述四处融资，却遭到几乎所有主要投资机构拒绝。Etched 一度只能按月维持运营，资金接近耗尽。

Primary Venture Partners 对机会作出了不同判断。2023 年 3 月，它领投 Etched 536 万美元种子轮，提供了约四分之三的资金，公司当时估值为 3,400 万美元。一年后，Primary 与 Positive Sum Ventures 共同领投 1.2 亿美元 A 轮融资，为 Sohu 芯片的流片和制造提供资金。

3.Etched 在打造什么：从芯片到推理集群

Etched 最初提出了一个大胆的设想：如果 Transformer 成为 AI 的主流架构，那么围绕其重复运算专门设计芯片，就能舍弃 GPU 的部分灵活性及其带来的额外开销。Etched 最初的答案是 Sohu：一款于 2024 年发布、当时被定位为“仅支持 Transformer”的 ASIC。

• 3.1 从芯片走向完整系统

Etched 在 2026 年推出的产品，已经超越了最初的 Sohu 芯片。其前沿推理集群将专用处理器、内存、计算卡、互连、液冷和软件整合为一套完整的机架级系统。Etched 表示，该平台不仅支持 Llama、Qwen 和 DeepSeek 等 Transformer 模型，也支持采用状态空间架构的 Mamba。它仍然高度专用，但已很难再被简单定义为“仅支持 Transformer”。

表 1：Etched 产品的四个相互连接的层级。© 2026 Jarsy Research

一个速度很快的处理器，只有在能够高效访问内存、与相邻芯片通信、控制温度并可靠运行生产模型时才有实际价值。因此，前 Cypress CTO Mark Ross 早期提出的建议：“人们购买的是系统，而不是芯片” 逐渐成为 Etched 战略的核心。

芯片（左）、计算卡（中）、机架（右）。Etched 打造的是机架级推理系统，而非单独销售一个处理器。图片来源：Etched

• 3.2 解决推理的两大瓶颈

AI 推理主要分为两个阶段。预填充（Prefill）负责处理输入提示，可以并行完成大量计算；解码（Decode）则逐个生成输出 token，其速度往往受内存访问和芯片间通信限制。针对这两个瓶颈，Etched 分别设计了一项核心技术：

表 2：Etched 针对推理瓶颈采用的技术。© 2026 Jarsy Research

低电压推理（Low-Voltage Inference)

CMOS* 电路的动态开关功耗可近似表示为：

Pdynamic​=αCV2f

其中最关键的是 V2: 功耗会随电压的平方增长。假设其他条件不变，当电压从 1.0V 降至 0.5V:

(0.5/1.0)2=0.25

理论上，动态开关功耗将降至原来的四分之一，从而能够在不突破机架供电和散热上限的情况下部署更多运算单元。Etched 表示，其数学运算单元的工作电压不到大多数 AI 加速器的一半。要实现这一点，电路、任务调度、供电、封装和冷却系统必须协同设计。Etched 声称，这项技术可以让万亿参数级的稀疏混合专家模型（Sparse MoE）持续发挥超过峰值 FLOPs 80% 的性能，同时避免因过热而降频。该数据目前仍由 Etched 提供，尚未经过独立复现；但电压与功耗之间的基本关系已有成熟的半导体物理理论支持。

• CMOS 是“互补金属氧化物半导体”（Complementary Metal-Oxide-Semiconductor）的缩写。它利用 NMOS 和 PMOS 两种互补的微型晶体管充当开关，通过控制电信号的通断来表示二进制中的 1 和 0。

集群级内存（Cluster-Scale Memory)

在解码阶段，系统花在搬运数据上的时间往往多于实际计算。其性能可简化表示为：

Performance ≤ min (Peak Compute, Memory Bandwidth × Arithmetic Intensity)

这正是 Roofline 模型（屋顶线模型）的基本逻辑：一旦内存带宽成为瓶颈，继续增加算力也难以显著提升性能。例如，一个以 FP8 格式存储的 700 亿参数模型大约需要：

700 亿个参数 × 1 字节 ≈ 70 GB

在解码过程中，系统需要反复读取这些模型权重，以及保存此前 token 信息的 KV Cache。上下文越长、批处理规模越大，所需的内存也越多。

Etched 的 CSM（Cluster-Scale Memory，集群级内存）通过专有的高带宽、低延迟互连，将 HBM 与 SRAM 结合起来。其目标是让多颗芯片访问同一个共享内存池，在利用 HBM 大容量优势的同时，获得接近 SRAM 的响应速度。

不过，Etched 尚未披露 CSM 的带宽、延迟、SRAM 容量或网络拓扑。因此，目前更准确的说法是：CSM 是 Etched 针对内存瓶颈提出的解决方案，而非已经得到充分验证的技术优势。

Etched 机架内部。图片来源：Etched

• 3.3 从可工作的芯片走向量产

Etched 的 A0 芯片（第一个芯片修订版本）于 2026 年初采用台积电 N4P 工艺完成回片，公司称其首次流片即取得成功。目前，Etched 正与客户共同验证机架级系统，并表示已经签署超过 10 亿美元的客户合同。

在早期的 Sohu 材料中，Etched 曾预计，搭载八颗芯片的服务器运行 Llama-70B 时，每秒可生成超过 50 万个 token。但这一预测早于 A0 芯片回片，目前尚未得到独立复现。公司近期公布的另一项数据是，其系统运行万亿参数级稀疏 MoE 模型时，可以持续发挥超过峰值 FLOPs 80% 的性能。不过，相关客户测试的具体结果尚未公开。

Etched 还在圣何塞地区建设了一座 10 兆瓦实验设施，以及数据中心、测试和原型开发设施，并在台湾设立制造业务。公司表示量产已经启动，首批机架计划于 2026 年夏季交付。

4.信念背后：团队、文化与资本

Primary Venture Partners 早期的投资信念，并非建立在一款已经完成的产品上，而是源于创始人把产品造出来的能力。此前，Primary 已经在独立研究 Nvidia 的市场主导地位、GPU 的瓶颈，以及围绕大语言模型设计专用硬件的潜力；但 Etched 团队缺乏半导体行业经验，仍是一项重大风险。

Primary 邀请多位行业专家审阅 Uberti 的白皮书，并直接向他提出质疑。据称，其中几位起初十分怀疑，最终却被他的思考能力、应变能力和执行速度打动。因此，Primary 将第一项考验归结为一个简单的问题：这些年轻创始人能否招募到足够资深的团队，把非传统架构变成可量产的系统？ 

• 4.1 从三位创始人到 400 人工程团队

机架级加速器绝非单颗芯片项目。它需要横跨芯片、固件、封装、编译器、散热、制造和完整数据中心系统的专业能力。Etched 表示，公司团队已超过 400 人，其中包括来自 Nvidia、Google TPU 团队、Broadcom、SK Hynix 和台积电的工程师。

其管理团队将创始人重新思考计算架构的意愿，与资深硬件高管的量产经验结合在一起：

• Mark Ross，首席技术官（CTO）：前 Cypress Semiconductor 首席技术官，曾参与交付多个首次流片即成功的芯片系统。
• Brian Loiler，平台副总裁：在 Nvidia 工作 22 年，曾参与打造 HGX 和 DGX 平台。
• David Munday，软件副总裁：曾组建 Google 的 TPU 软件团队，并参与从 TPU v1 到 v5 的多代产品。
• Wayne Cao，生产副总裁：曾负责初代 iPhone、MacBook Air、Pixel 和 Chromebook 等产品的生产及供应链项目。
• Saptadeep Pal，ASIC 与架构副总裁：曾参与 Nvidia H100、A100 和 V100 的架构开发。

招募到这一层级的人才，是一个重要的执行力信号。它并不能证明 Etched 已经具备规模化生产可靠系统的能力，但降低了其技术构想最终只停留在原型阶段的风险。

• 4.2 面对面协作与垂直整合文化

Etched 主要采用线下办公模式，让芯片、封装、软件、散热和平台团队共同开发整套系统。公司在圣何塞建设了数据中心和原型开发设施，并在台湾设立基地，与制造合作伙伴保持持续协作。这种高度整合的模式成本高昂，在初创公司中也并不常见，但它体现了 Mark Ross 早期提出的理念：客户购买的是完整系统，而非纸面上的芯片性能。

• 4.3 资本追随团队

随着 Etched 招募资深工程师，并从一份白皮书走向可工作的芯片，其投资者阵容也从一家极具信念的种子基金，扩展至大型风险投资机构、半导体战略投资者和量化交易公司。

表 3：Etched 历轮融资。来源：CNBC、Bloomberg、Reuters、Etched。© 2026 Jarsy Research

5.竞争格局与前景

Etched 进入的是一个专用化已不再罕见的市场。Nvidia 和 AMD 正在开发完整的机架级平台，众多初创公司也在围绕 AI 推理重新设计处理器、内存和互连系统。更多行业背景可参阅我们此前发布的研究报告 Jarsy Research #22《定制 AI 芯片时代》。

表 4：Etched 的主要竞争对手。© 2026 Jarsy Research

这些公司通过速度、效率、灵活性和系统整合能力的不同组合与 Etched 竞争。凭借软件生态和庞大的装机基础，Nvidia 仍是行业标杆；d-Matrix 则是与 Etched 最接近的专用推理芯片初创公司。SambaNova 和 Cerebras 提供了发展更成熟的替代架构。更广泛的竞争者还包括 MatX、Fractile 和 Positron。与此同时，Google、Amazon 和 Microsoft 正在为自有云平台开发定制处理器，进一步压缩独立芯片公司的潜在市场。 

Etched 现在必须将可工作的芯片和客户承诺转化为可靠的生产部署。市场机会十分可观，但其成功取决于能否在实际应用中持续证明性能、成本和能效优势，同时跟上模型架构的变化。Etched 无须在所有场景中取代 GPU，只需证明相当规模且具有高价值的推理工作负载能够在其系统上运行得更好。