Anthropic CEO：AI 是给人类的成人礼
Anthropic 刚开放的最新模型 Fable5，今天宣布因为美国政府以国家安全为由指令暂停访问，导致 Anthropic 停用了Fable 5 和 Mythos 5。
今天再次读了一下 Anthropic CEO Dario Amodei 在 1 月份写的《技术的青春期》（The Adolescence of Technology）一文。这篇文章读完给我的第一感觉是，他不再只是在谈论冷冰冰的算法，而是在写一份有点类似“生存备忘录”的东西。
他用这篇长文把我们从对 AI 虚幻的恐惧或盲目的乐观中拽了出来，直面那个即将到来的、甚至可能有点窒息的转折点。也用它和另一篇文章《Machines of Loving Grace》，来反驳外界对他是 AI “毁灭论者”的误解，因为他一直在强调 AI 的风险。
我们正处在一种“致命的悸动”中
Dario 在开头引用了卡尔·萨根《接触未来》（Contact）里的一个场景：如果我们能问外星文明一个问题，那应该是“你们是怎么做到的？你们是怎么度过技术青春期而没有毁灭自己的？”
我理解的是，他把人类现在的处境生动地类比成了青春期——我们突然发现自己手里握着几乎无法想象的力量（AI），但我们的社会、政治和心智系统，似乎还没成熟到能驾驭这种力量。这种感觉很奇妙，就像一个刚拿驾照的少年突然被塞进了一辆时速 400 公里的赛车驾驶室。
更有意思的是，他提到 2023-2024 年大家对 AI 风险的讨论已经有点“宗教化”或“末日论”了，这反而让一些严肃的建议被埋没。而现在（2025-2026 年，他在文章中设定了这个近未来的视角），风向又转到了只谈机遇、不谈风险的另一个极端。这种像钟摆一样的反复其实挺危险的，因为技术演进并不在乎舆论的流行。
想象一个“塞在数据中心的天才国家”
为了让人明白什么是“强大 AI”（Powerful AI），Dario 提出了一个非常有意思的比喻。他让我们别把 AI 仅仅当成一个对话框，而是想象在 2027 年左右，世界上突然出现了一个拥有 5000 万人口的虚拟国家。
在这个“国家”里：
- 每个人都比诺贝尔奖得主、顶尖程序员或政治家还要聪明。
- 他们干活的速度是人类的 10 到 100 倍。
- 他们能独立完成需要数周时间的大型任务，而不只是被动回答问题。
- 如果需要，这几千万个天才可以像军队一样协同工作。
看到这里有点科幻的感觉，但也很震撼。这本质上就是一种“降维打击”。正如他所说，如果有情报官员告诉国家元首，在数据中心里诞生了一个由超级天才组成的国家，且这个国家每过一个小时可能就完成了人类一年的科研量，任何一个清醒的领导人都得把它视为有史以来最大的国家安全挑战。
AI 进化的“时钟效应”
关于 AI 到底什么时候能达到这个水平，Dario 提到了一个观察：反馈回路已经闭合了。
Because AI is now writing much of the code at Anthropic, it is already substantially accelerating the rate of our progress in building the next generation of AI systems.（因为 AI 现在已经承担了 Anthropic 大部分的编程工作，它目前正极大地加速我们构建下一代 AI 系统的进程。）
这句话有种印证了那种“奇点”临近的体感——我们不再是单纯用手码砖头造大厦，那是原来的线性增长；现在的状态是，我们造出的机器正在帮我们设计更强的机器（这和 Notion CEO 之前的文章《Notion CEO 最新好文：蒸汽、钢铁与无限心智》里提到的观点类似）。
Dario 说，虽然外界总有人觉得 AI 到了瓶颈，或者快撞墙了，但在实验室内部看来，AI 的认知能力提升其实是“平滑且不可阻挡”的。
这种风险不是科幻，而是现实主义的战斗
他把接下来我们要面对的“成人礼”考验分成了几个具体的维度。与其说是担心机器人造反（像那种俗套的科幻电影），不如说他更担心的是以下几点：
- 自主权风险：如果这个“天才国家”有了和人类不一致的目标，会发生什么？
- 毁灭性的滥用：如果这些天才成了恐怖分子的“雇佣兵”，制造生化武器或发起瘫痪级别的网攻，我们防得住吗？
- 权力的极端集中：如果某个独裁者掌握了这支天才大军，现有的全球权力平衡会瞬间崩塌。
- 经济大震荡：即便 AI 特别听话、特别和平，数千万个顶尖天才突然进入劳动力市场，社会系统能接得住这种结构性的失业和财富分配不均吗？
Dario 说如果通不过考验（停留在青春期），人类可能会因为生物武器滥用、技术失控（自主风险）或地缘政治极权而走向文明的毁灭。
如果通过了考验（迈向成年），人类就能用极度的理性和高超的技术控制，将 AI 应用于攻克癌症、消除贫困、解决能源危机。度过成人礼的奖励，是一个真正走向“成年”的成熟人类文明。
这里我能感觉到 Dario 很努力地在保持一种“外科手术式”的严谨，他反对那种极端的、全面禁绝的回应，认为那只会引发反弹。他提倡的是一种非常务实的态度：我们先承认不确定性，然后开始为每一种具体的威胁制定“战斗计划”。
都说人们总是高估一项科技所带来的短期效益，却又低估它的长期影响。读完这篇长文，我最大的感触是，虽然这看起来有点夸张，但我们可能真的只有几年时间去完成这场“社会性的成年礼”。那种把 AI 当成好玩工具的心态可能要收一收了。
如果“一个天才国家”即将降临，我们所引以为傲的纯认知类工作，在那种上百倍的效率差面前，生存空间到底在哪？
