宣布开源推出 Nemotron 3 Embed 系列模型,主要面向 AI 智能体和检索增强生成场景。
该系列以开放权重形式发布,支持商业使用,目前已通过 Hugging Face 与 NVIDIA NIM 免费提供。
Nemotron 3 Embed 配备 32K 上下文窗口,可执行高精度检索。NVIDIA 称,这一设计可减少 AI 智能体重复检索,压低不必要的推理触发频率,并显著降低 Token 消耗量。
英伟达针对不同部署环境,同步公开微调和蒸馏版本,覆盖精度优先、成本与时延优先,以及针对特定 GPU 架构优化的使用需求,推出 3 个模型版本:
模型为系列为最高规格版本,参数规模为 80 亿。英伟达称,该模型适合对精度要求较高、且伴随较高风险的企业业务场景。该模型基于 Ministral-3-8B-Instruct-2512 构建。
为高效率版本,参数规模为 11.4 亿。NVIDIA 称,该模型适合重视时延与成本的部署环境。该模型由基于 Ministral-3-3B-Instruct-2512 的父模型蒸馏得到。
则是在高效率版基础上,面向 Blackwell 架构 GPU 优化的版本。原文称,借助 NVFP4,该模型在维持与高效率版相同检索精度的同时,可进一步降低内存占用,并将吞吐量最高提升至 2 倍。
注:RTEB是由 Hugging Face 团队及 MTEB社区推出的新型检索与嵌入模型评估标准。它专为评估大模型在真实场景中的实际检索质量而设计。










