OpenAI未能在2025年前提供其承诺的退出工具

25-01-02
免费
查看原文

去年五月,OpenAI宣布正在开发一个名为“Media Manager”的工具,旨在让创作者能够指定他们的作品如何被包含或排除在OpenAI的AI训练数据中。然而,七个月过去了,这个功能仍未推出。

Media Manager工具被设计为“识别受版权保护的文本、图像、音频和视频”,以反映创作者在多个来源中的偏好。这个工具的目的是为了减少公司面临的一些最激烈的批评,并可能保护OpenAI免受与知识产权相关的法律挑战。

然而,据知情人士透露,这个工具在内部很少被视为重要的发布项目。一位前OpenAI员工表示:“我不认为它是优先事项。老实说,我不记得有人在上面工作过。”与OpenAI合作的非雇员协调员在12月告诉TechCrunch,他们过去曾与OpenAI讨论过这个工具,但最近没有更新。(这些人拒绝公开身份,讨论保密的商业事务。)

OpenAI法律团队的一员,Fred von Lohmann,曾在Media Manager上工作,但在10月转为了兼职顾问角色。OpenAI公关通过电子邮件向TechCrunch确认了von Lohmann的变动。

OpenAI尚未更新Media Manager的进展,公司错过了自我设定的“2025年之前”将工具落实的最后期限。(需要明确的是,“2025年之前”可能包括2025年,但TechCrunch解读OpenAI的语言意味着直到2025年1月1日之前。)

知识产权问题

像OpenAI这样的AI模型通过学习数据集中的模式来做出预测——例如,一个人咬汉堡会留下咬痕。这使得模型能够在一定程度上通过观察世界来学习世界是如何运作的。ChatGPT可以撰写令人信服的电子邮件和文章,而OpenAI的视频生成器Sora可以创建相对真实的画面。

利用写作、电影等例子生成新作品的能力使AI变得非常强大。但它也是复读式的。当以某种方式提示时,模型——大多数是在无数网页、视频和图像上训练的——会产生数据的近乎副本,尽管这些数据是“公开可用的”,但并不意味着可以这样使用。

例如,Sora可以生成包含TikTok标志和流行视频游戏角色的片段。《纽约时报》让ChatGPT一字不差地引用其文章(OpenAI将这种行为归咎于“黑客行为”)。

这无疑让那些未经许可就被卷入AI训练的作品的创作者感到不安。许多人已经聘请了律师。

OpenAI正在与艺术家、作家、YouTubers、计算机科学家和新闻机构提起的集体诉讼作斗争,他们都声称这家初创公司非法训练了他们的作品。原告包括作家Sarah Silverman和Ta-Nehisi Coates、视觉艺术家以及像《纽约时报》和Radio-Canada这样的媒体集团。

OpenAI已经与一些合作伙伴达成了授权协议,但并非所有创作者都认为这些条款具有吸引力。

OpenAI为创作者提供了几种临时的“退出”其AI训练的方法。去年9月,公司推出了一个提交表格,允许艺术家标记他们的作品,以便从未来的训练集中移除。OpenAI还一直允许网站管理员阻止其网络爬虫在其域名上抓取数据。

但创作者批评这些方法为随意和不充分。对于书面作品、视频或音频记录没有特定的退出机制。而图像的退出表格需要提交要移除的每张图像的副本以及描述,这是一个繁琐的过程。

Media Manager被宣传为对OpenAI当前的退出解决方案的全面改革和扩展。

在5月的公告帖子中,OpenAI表示,Media Manager将使用“尖端的机器学习研究”,使创作者和内容所有者能够“告诉[OpenAI]他们拥有什么”。OpenAI声称它正在与监管机构合作开发这个工具,并希望Media Manager能够“在整个AI行业中树立标准”。

OpenAI此后再也没有公开提及Media Manager。

一位发言人告诉TechCrunch,截至8月,该工具“仍在开发中”,但没有回应12月中旬的后续评论请求。

OpenAI没有迹象表明Media Manager何时可能推出——甚至它可能推出的功能和能力也没有迹象。

合理使用

假设Media Manager在某个时候到来,专家们不相信它会减轻创作者的担忧——或者在很大程度上解决围绕AI和知识产权使用的法律问题。

Stubbs Alderton & Markiles的知识产权律师Adrian Cyhan指出,正如所描述的,Media Manager是一个雄心勃勃的项目。即使是像YouTube和TikTok这样大的平台也在大规模的内容识别上挣扎。OpenAI真的能做得更好吗?

“确保遵守法律要求的创作者保护和潜在的补偿要求在考虑之中提出了挑战,特别是鉴于国家和地方司法管辖区的法律环境迅速演变和可能的分歧。”Cyhan告诉TechCrunch。

Fairly Trained的创始人Ed Newton-Rex认为,Media Manager会不公平地

头像
Memo AI
AI is everything!
相关文章