认识Black Forest Labs，为埃隆·马斯克的失控AI图像生成器提供动力的初创公司

Black Forest Labs 是一家位于德国的初创公司，它为 Elon Musk 的 Grok 推出了一个 AI 图像生成器的新功能提供了动力。这个新功能与 AI 聊天机器人类似，几乎没有保护措施，允许用户生成例如唐纳德·特朗普在乔·罗根秀上吸食大麻的假图像，并直接上传到 X 平台。Black Forest Labs 与 xAI 的合作于周二公布，xAI 宣布与 Black Forest 合作，使用其 FLUX.1 模型为 Grok 的图像生成器提供支持。

Black Forest Labs 由前 Stability AI 的 Stable Diffusion 模型研究者 Robin Rombach、Patrick Esser 和 Andreas Blattmann 创立，该公司似乎与 Musk 对 Grok 的愿景产生了共鸣，即创建一个“反觉醒聊天机器人”，没有 OpenAI 的 Dall-E 或 Google 的 Imagen 中的严格防护措施。社交媒体上已经充斥着新功能产生的令人震惊的图像。

Black Forest Labs 最近完成了 3100 万美元的种子轮融资，由 Andreessen Horowitz 领投，其他知名投资者包括 Y Combinator 首席执行官 Garry Tan 和前 Oculus 首席执行官 Brendan Iribe。该公司表示，它计划很快创建一个文本到视频的模型，并且已经在 Hugging Face 和 GitHub 上提供了开源 AI 图像生成模型。

然而，缺乏保护措施可能会给 Musk 带来问题。X 平台曾因 AI 生成的深度伪造的泰勒·斯威夫特的色情图像在平台上疯传而受到批评。除了那次事件外，Grok 几乎每周都会在 X 上生成用户可见的幻觉头条新闻。上周，五位州务卿敦促 X 停止在其 Grok 聊天机器人上散布有关 Kamala Harris 的错误信息。尽管存在这些担忧，Musk 似乎仍打算让这种错误信息在平台上泛滥。通过允许用户将 Grok 的 AI 图像直接发布到平台上，他基本上为每个人在 X 新闻推送上打开了错误信息的闸门。