7月19日讯,据 Mistral 官方消息,Mistral 近日推出旗下最新小型模型MIstral NeMo,由Mistral 和 英伟达合作开发。
Mistral NeMo 可提供高达 128k 标记的大型上下文窗口。它的推理能力、世界知识和编码准确性在同类产品中都是最先进的。由于 Mistral NeMo 依赖于标准架构,因此易于使用,可以直接替换任何使用 Mistral 7B 的系统。
Mistral NeMo 在训练时具有量化意识,可在不损失任何性能的情况下进行 FP8 推理。
7月19日讯,据 Mistral 官方消息,Mistral 近日推出旗下最新小型模型MIstral NeMo,由Mistral 和 英伟达合作开发。
Mistral NeMo 可提供高达 128k 标记的大型上下文窗口。它的推理能力、世界知识和编码准确性在同类产品中都是最先进的。由于 Mistral NeMo 依赖于标准架构,因此易于使用,可以直接替换任何使用 Mistral 7B 的系统。
Mistral NeMo 在训练时具有量化意识,可在不损失任何性能的情况下进行 FP8 推理。