新闻中心

乐鱼体育-英伟达推出Nemotron 3 Ultra,推理成本较闭源模型骤降90%
发布时间:2026-07-25 01:49:02

英伟达近日发布开源年夜模子Nemotron 3 Ultra,依附高机能与极低推理成本激发市场存眷。该模子于LangChain深度智能体基准测试中取患上开源模子组别最高正确率,同时推理成本仅为行业头部闭源模子的十分之一。

Nemotron 3 Ultra总参数达5500亿,每一token激活550亿参数,采用混淆专家架构,交融Mamba-二、MoE及留意力层,并引入多token猜测技能以晋升推理速率。模子撑持长达100万token的上下文窗口,专为繁杂智能体事情流、长上下文阐发及多语言推理等场景优化。

机能方面,Nemotron 3 Ultra于智能体出产力测试PinchBench中取患上91%的正确率,与Kimi K2.6持平,优在GLM 5.1及Qwen3.5。于长上下文测试Ruler @1M中,该模子以95%的成就领先同类开源模子。吞吐量方面,其推理速率较GLM 5.一、Kimi K2.6及Qwen3.5别离晋升5.9倍、4.8倍及1.6倍。

成本上风是这次发布的焦点亮点。英伟达与LangChain互助优化后,Nemotron 3 Ultra的单次推理运行成本较闭源年夜模子降低约90%,同时使命处置惩罚吞吐量同步晋升。于SWE-bench及Terminal Bench 2.0测试中,该模子完成基准测试所利用的总token数及每一轮token数均少在同类模子,智能体使命成本可降低高达30%。

英伟达这次延续开放计谋,同步发布了预练习、后练习及量化查抄点,以和相干练习数据集。阐发人士指出,Nemotron的推出并不是为了与OpenAI等闭源模子直接竞争API办事,而是经由过程开放、可私有化部署的年夜模子,巩固其CUDA软件生态及硬件护城河,切入对于数据安全要求严酷的政企市场。

新浪财经公家号

24小时滚动播报最新的财经资讯及视频,更多粉丝福利扫描二维码存眷(sinafinance)

-乐鱼体育