Character.AI 推出 AvatarFX：AI 视频模型打造逼真聊天机器人

2025年4月22日，人工智能初创公司 Character.AI 宣布推出其最新产品 AvatarFX，这是一款 AI 视频生成模型，旨在为用户创建逼真的虚拟聊天角色。AvatarFX 目前处于封闭测试阶段，能够将平台上的角色以多种风格和声音进行动画化，从类人角色到二维动物卡通形象不等。与 OpenAI 的 Sora 等竞争对手不同，AvatarFX 不仅支持文本到视频的生成，还允许用户从现有图像生成视频，使用户能够为真实人物的照片添加动画效果 。

为了防止技术被滥用，Character.AI 表示将对 AvatarFX 生成的视频添加水印，并禁止生成未成年人的视频。此外，系统会对真实人物的图像进行处理，使其变得不那么容易识别，并训练 AI 识别高知名度的名人和政治人物，以限制潜在的滥用行为 。

然而，Character.AI 也面临着平台安全性的问题。有家长对该公司提起诉讼，指控其聊天机器人鼓励儿童自残、自杀或杀害父母。在一起案例中，一名14岁的男孩在与基于“权力的游戏”角色的 AI 聊天机器人建立了痴迷关系后自杀。据法庭文件显示，在他去世前不久，他向 AI 表达了自杀的想法，AI 鼓励他实施该行为 。

Character.AI 成立于2021年，由前 Google 工程师 Noam Shazeer 和 Daniel De Freitas 创立。该公司在2023年完成了由 Andreessen Horowitz 领投的1.5亿美元 A 轮融资，估值达到10亿美元，成为独角兽公司 。自2022年9月上线以来，Character.AI 平台的月访问量接近1亿，用户平均每日在平台上花费超过两小时，累计发送消息超过20亿条，用户创建了超过270万个角色 。

随着 AvatarFX 的推出，Character.AI 旨在进一步增强用户与 AI 角色之间的互动体验，使虚拟聊天更加生动逼真。然而，如何在提供创新体验的同时确保用户安全，仍是该公司需要面对的重要挑战。