OpenAI 正在开发新策略来应对 AI 改进的减速
24-11-11
The Information 的一份新报告称,OpenAI 的下一代旗舰模型可能不像其前辈那样代表着巨大的飞跃,OpenAI 正在开发新策略来应对人工智能改进的减速。
据悉,测试了代号为“Orion”的新模型的员工们发现,尽管其性能超过了 OpenAI 现有的模型,但与从 GPT-3 到 GPT-4 的跃升相比,改进幅度较小。
换句话说,改进速度似乎在放缓。事实上,Orion 在某些领域可能并不比以前的模型可靠,比如编码。
为此,OpenAI 成立了一个基础团队,以找出公司如何在面临日益减少的新训练数据的情况下继续改进其模型。据称,这些新策略包括在由人工智能模型生成的合成数据上训练 Orion,以及在后期训练过程中更多地改进模型。