法国AI初创公司 Mistral 推出了名为 “Les Ministraux” 的新一代生成式AI模型,专为笔记本电脑和智能手机等边缘设备设计。
模型大小分为 Ministral 3B 和 Ministral 8B,专门针对本地、隐私优先的AI任务优化,比如设备内翻译、智能助手、局部分析和自主机器人等应用。
Mistral 的模型声称在多个AI基准测试中表现优于同类型的 Llama 和 Gemma 模型,特别是在指令执行和问题解决能力方面。
- Ministral 3B:相对较小的模型,适合基础的文本生成任务。
- Ministral 8B:更强大的模型,可用于复杂的任务和应用。
两个模型将在未来几周通过 Mistral 的云平台 La Platforme 提供使用。
主要亮点包括:
- 上下文窗口:这两个模型均具备 128,000 个 token 的上下文窗口,能够处理长达50页书籍的文本,显著提高了处理复杂任务的能力。
- 本地推理:这些模型旨在实现本地推理,增强隐私保护,适用于如设备内翻译、离线智能助手等关键应用。
- 多功能适用性:可用于多种应用,如任务路由、API调用和智能工作流,支持多种输入解析和任务处理。
- 增强的推理能力:在知识、常识推理和功能调用方面,Les Ministraux 在同类模型中表现出色,能够有效处理复杂任务。
Les Ministraux 为关键应用提供了高效、低延迟的解决方案。这些应用包括:
- 设备内翻译
- 无互联网的智能助手
- 本地数据分析
- 自主机器人
此外,Les Ministraux 还可以与更大的语言模型(如 Mistral Large)结合使用,作为多步智能工作流中的高效中介。
性能基准
- 综合评估:
- Les Ministraux 在多个任务中表现优异,经过内部框架的重新评估,确保了各模型之间的公平比较。
- 基准测试:
- 与其他模型(如 Gemma 2、Llama 3.1、Llama 3.2 和 Mistral 7B)相比,Les Ministraux 在知识推理、常识理解和功能调用等方面的表现均优于同类产品。Ministral 3B 和 8B 模型与 Gemma 2 2B、Llama 3.2 3B、Llama 3.1 8B 和 Mistral 7B 在多个类别上的比较
Ministral 3B 和 8B 基本模型与 Gemma 2 2B、Llama 3.2 3B、Llama 3.1 8B 和 Mistral 7B 的比较
Ministral 3B 和 8B Instruct 模型与 Gemma 2 2B、Llama 3.2 3B、Llama 3.1 8B、Gemma 2 9B 和 Mistral 7B 在不同评估类别上的比较。
3B 系列 Instruct 模型的比较 – Gemma 2 2B、Llama 3.2 3B 和 Ministral 3B。该图展示了 Ministral 3B 相对于更大的 Mistral 7B 的改进。
8B 系列 Instruct 型号的比较 – Gemma 2 9B、Llama 3.1 8B、Mistral 7B 和 Ministral 8B。
- 与其他模型(如 Gemma 2、Llama 3.1、Llama 3.2 和 Mistral 7B)相比,Les Ministraux 在知识推理、常识理解和功能调用等方面的表现均优于同类产品。Ministral 3B 和 8B 模型与 Gemma 2 2B、Llama 3.2 3B、Llama 3.1 8B 和 Mistral 7B 在多个类别上的比较
- 任务处理能力:
- 模型能够高效处理多种任务,包括输入解析、任务路由和 API 调用,展现出强大的多任务处理能力。
定价方面:
- Ministral 8B:每百万 tokens 收费 $0.10(约 75 万字)。
- Ministral 3B:每百万 tokens 收费 $0.04。
淘声网是全球免费声音素材聚合平台,独创toSound“吐司”声音搜索引擎,免费个人/商业使用许可授权。