2024年硅谷扼杀了人工智能末日运动

近年来，技术专家对高级人工智能系统可能对人类造成灾难性损害的担忧日益增加。然而，2024年，这些警告被科技行业推广的实用且繁荣的生成性AI愿景所淹没，这一愿景也有利于他们的财务状况。

被称为“人工智能末日论者”的人担心AI系统会做出杀人决策，被权势者用来压迫大众，或以某种方式导致社会崩溃。2023年，技术监管似乎进入了复兴时代，AI末日和AI安全——一个更广泛的主题，包括幻觉、内容审核不足以及其他AI可能危害社会的方式——从一个在旧金山咖啡馆讨论的小众话题变成了出现在MSNBC、CNN和《纽约时报》头版的讨论。

2023年的警告总结：埃隆·马斯克和1000多名技术专家和科学家呼吁暂停AI开发，要求世界为这项技术的重大风险做好准备。不久之后，OpenAI、谷歌和其他实验室的顶尖科学家签署了一封公开信，表示AI导致人类灭绝的风险应得到更多重视。几个月后，拜登总统签署了一项AI行政命令，总体目标是保护美国人免受AI系统的侵害。2023年11月，非营利董事会背后的世界领先AI开发者OpenAI解雇了萨姆·阿尔特曼，声称其CEO因撒谎而声名狼藉，不能被信任掌握如此重要的技术，即人工通用智能（AGI）——曾经是AI的想象终点，意味着真正展示自我意识的系统。（尽管定义现在正在转变以满足讨论它的商业需求。）

有一段时间，硅谷企业家的梦想似乎要让位于社会的整体健康。

但对这些企业家来说，围绕AI末日的叙述比AI模型本身更令人担忧。

作为回应，a16z联合创始人Marc Andreessen在2023年6月发表了《为什么AI将拯救世界》，这是一篇7000字的文章，拆解了AI末日论者的议程，提出了一个更乐观的技术发展愿景。

“人工智能时代已经到来，人们对此感到恐慌。幸运的是，我在这里带来好消息：AI不会毁灭世界，实际上可能会拯救它，”Andreessen在文章中说。

在他的结论中，Andreessen为我们对AI的恐惧提供了一个方便的解决方案：快速行动，打破常规——基本上是定义了21世纪其他技术（及其相关问题）的理念。他认为，应该允许大型科技公司和初创企业尽可能快速和积极地构建AI，几乎没有监管障碍。这将确保AI不会落入少数强大公司或政府之手，并允许美国有效地与中国竞争，他说。

当然，这也将允许a16z的许多AI初创公司赚更多的钱——有些人认为他的技术乐观主义在极端收入不平等、大流行和住房危机的时代是不礼貌的。

虽然Andreessen并不总是同意大型科技公司的观点，但在赚钱方面，整个行业都可以达成一致。a16z的联合创始人今年与微软CEO萨蒂亚·纳德拉一起写了一封信，基本上是要求政府不要对AI行业进行监管。

与此同时，尽管他们在2023年手忙脚乱，但马斯克和其他技术专家在2024年并没有放慢对安全的专注——恰恰相反：2024年的AI投资超过了我们以前见过的任何情况。阿尔特曼很快回到了OpenAI的领导岗位，而[一群安全研究人员在2024年离开了这个团队，同时对其日益