Sam Altman：AI 已到达温和的奇点
Sam Altman 最新博客文章：AI 已到达温和的奇点
我们已经越过事件视界，技术爆炸已然开始。人类即将创造出数字超级智能，而迄今为止，它远比人们预想的要“正常”得多。
机器人尚未走上街头，大多数人也没有整天与AI对话。人类依然会因病死亡，太空旅行仍非易事，宇宙中仍有无数未解之谜。
然而，我们已构建出在许多方面超越人类智能的系统，它们能显著放大使用者的产出。最艰难的科学突破——例如GPT-4和o3背后的技术——已被攻克，而这些成果将引领我们走得更远。
AI将以多种方式推动世界进步，但最巨大的影响将来自科学加速与生产力提升。未来可能远比现在美好，因为科学进步是整体发展的核心驱动力。光是想象我们能实现的突破，就令人无比振奋。
某种意义上，ChatGPT已比历史上任何人类个体更强大。数亿人每天依赖它完成日益重要的任务：一个微小的新功能可能产生巨大积极影响，而一个细微的偏差乘以数亿用户也可能引发严重负面后果。
2025年，能真正从事认知工作的AI代理已出现（编程领域将被彻底改变）；2026年，系统可能自主发现新知识；2027年，现实世界中执行任务的机器人或将问世。
更多人将能创作软件和艺术，但世界对这两者的需求远未饱和。只要善用新工具，专家仍将远超新手。到2030年，个人生产力的跃升将带来显著变革，而多数人会找到从中获益的方式。
在核心层面，2030年代或许并无巨变：人们仍会爱家人、挥洒创意、玩游戏、在湖中游泳。但在更重要的维度上，这十年将前所未有地不同。我们尚不知人类智能的极限能被超越多远，但答案即将揭晓。
到2030年代，智力与能源（即创意与实现创意的能力）将变得极度充裕。这两者长期制约着人类进步，而一旦突破限制（辅以良好治理），理论上我们能实现任何目标。
我们已生活在数字智能爆发的时代，短暂的震惊后，多数人习以为常。AI的进化节奏总是如此：从惊叹它能写出优美段落，到期待它生成小说；从震惊于医疗诊断的精准，到等待它研发新疗法；从欣赏小程序编写，到观望它创建公司。奇点的本质正是如此——奇迹终成常态，继而成为基准。
科学家们反馈，AI已使其效率提升2-3倍。先进AI的深远意义在于：它能加速AI研究本身。我们可能发现新计算基质、更优算法，甚至更惊人的突破。若将十年研究压缩至一年甚至一月，进步速度将截然不同。
现有工具正帮助我们获取科学洞见并构建更好的AI系统。这虽非完全自主的代码迭代，但已是递归自我改进的雏形。
其他正向循环也在形成：经济价值创造推动基础设施扩建，以运行日益强大的AI系统；能制造其他机器人的机器人（或能自建数据中心的数据中心）已不遥远。
若首批百万仿生机器人需传统方式制造，之后它们便可自主运营供应链（采矿、运输、工厂管理等）以生产更多机器人，继而建设芯片厂和数据中心——进步速度将彻底改变。
随着数据中心生产自动化，智能成本终将趋近电力成本。（ChatGPT单次查询平均耗电0.34瓦时，约等于烤箱运行1秒或节能灯亮2分钟，耗水约1/15茶匙。）
技术进步将持续加速，而人类总能适应变革。尽管某些职业将消失，但世界财富的极速增长将催生前所未有的政策创新。社会契约或许不会突变，但几十年后的回望将揭示渐变积累的巨变。
历史表明，人类总能找到新需求并快速吸收工具（工业革命后的职业变迁即是一例）。期待与能力将同步跃升，我们为彼此创造的奇迹会越来越多。人类相较AI有一项关键优势：我们天生在意他人所想所为，而非机器。
千年前的农夫会认为现代许多工作“虚假”，觉得我们因衣食无忧而沉迷娱乐。但愿千年后的子孙也如此看待当时的工作——尽管从事者必觉其重要且充实。
未来奇迹的涌现速度将超乎想象。今日甚至难以构想2035年的突破：或许某年解决高能物理，次年启动太空殖民；或从材料科学突破直接跃迁到高带宽脑机接口。多数人仍按部就班生活，但部分人可能选择“接入”新世界。
展望未来令人目眩，但亲历过程或许可控。相对论视角下，奇点是渐进式的融合。我们正攀登技术进步的指数曲线——前瞻时陡峭，回望时平缓。（试想2020年若预言2025年接近AGI，会比现在预测2030年更显荒谬。）
机遇伴随严峻挑战：需从技术和社会层面解决安全问题，同时确保超级智能的广泛普及（因其经济影响深远）。最佳路径或许是：
- 解决对齐问题：确保AI系统长期符合人类集体意志（社交媒体算法即未对齐案例——它们精通短期偏好却忽视长期利益）。
- 推动普惠化：降低超级智能成本，防止其被少数主体垄断。
社会具备韧性与创造力。若能凝聚集体智慧，即使犯错也能快速调整，最大化技术收益。在社会共识的框架内赋予用户自由至关重要。关于边界与集体对齐的全球讨论越早启动越好。
我们（整个行业，不止OpenAI）正在为世界构建一个“大脑”。它将高度个性化且易用，唯一的限制将是好创意。长期以来，科技圈常嘲笑“空想家”——那些只有点子却无执行团队的人。如今看来，他们的时代即将到来。
OpenAI首先是超级智能研究公司。前路虽长，但光明已笼罩大部分征程，黑暗正快速消退。我们深感荣幸能投身于此。
“廉价到可忽略的智能”触手可及。此言或许疯狂，但若在2020年预言今日成就，恐怕比现在展望2030年更显荒诞。
愿我们平稳、指数级且波澜不惊地迈向超级智能。
