Mistral 发布针对笔记本电脑和手机优化的新 AI 模型

法国人工智能初创公司 Mistral 发布了其首批为边缘设备（如笔记本电脑和手机）设计的生成型人工智能模型。这些新模型被命名为“Les Ministraux”，可以用于多种应用，从基础文本生成到与更强大的模型协同工作以完成任务。

目前有两个 Les Ministraux 模型可供选择——Ministral 3B 和 Ministral 8B，两者都有 128,000 个令牌的上下文窗口，意味着它们可以处理大约 50 页书的长度。

Mistral 在博客文章中写道：“我们最具创新精神的客户和合作伙伴越来越多地要求在设备上进行本地、隐私优先的推理，以支持关键应用，如设备上的翻译、无需互联网的智能助手、本地分析和自主机器人。” Les Ministraux 旨在为这些场景提供计算效率高、低延迟的解决方案。

Ministral 8B 从今天起可供下载，但仅限于研究目的。对于有兴趣在 Ministral 8B 或 Ministral 3B 上进行自部署设置的开发者和公司，Mistral 要求他们联系以获取商业许可。否则，开发者可以通过 Mistral 的云平台 La Platforme 以及未来几周内与该初创公司合作的其他云平台使用 Ministral 3B 和 Ministral 8B。Ministral 8B 的费用是每百万输出 / 输入令牌（约 750,000 个单词）10 美分，而 Ministral 3B 的费用是每百万输出 / 输入令牌 4 美分。

近来，小型模型的趋势愈发明显，它们比大型模型更便宜、更快地进行训练、微调和运行。谷歌继续在其小型模型家族 Gemma 中添加模型，而微软提供了 Phi 系列模型。在最近更新的 Llama 套件中，Meta 引入了几个针对边缘硬件优化的小型模型。

Mistral 声称，Ministral 3B 和 Ministral 8B 在几个旨在评估指令遵循和问题解决能力的 AI 基准测试中，表现优于类似的 Llama 和 Gemma 模型，以及 Mistral 自己的 Mistral 7B 模型。