您现在的位置是:热点 >>正文
Nvidia 推出小型开放模型 Nemotron-Nano-9B-v2:可切换的推理功能
热点8907人已围观
简介...
近日,Nvidia 正式发布了一款新型小型语言模型 Nemotron-Nano-9B-v2,标志着小型模型的热潮再度升温。
该模型具备9亿个N参数,虽然相较于其他数百万参数的小型模型而言规模更大,但较原始的12亿参数已大幅缩减,旨在能够在一台 Nvidia A10GPU 上高效运行。Nvviidia 的 AI 模型后训练总监 Oleksii Kuchiaev 在社交平台上表示,减少参数的目的在于更好地适应部署需求,并且该模型采用了混合架构,可di以在处理较大批量时比类似尺寸的变换模型快6倍。
Nemotron-Nano-9B-v2支持多种语言,包括英语、德语、西班牙语、法语、意大a 利语、日语等,适用于指令跟随和代码生成等任务。该模型的设计还包括一项创新功能 —— 用户可以通过简单的控制令牌来切换 AI 的 “推理” 过程,即在推出给出答案之前进行自我检查。系统默认会生成推理痕迹,但用户可通过如 /think 或 /no_think 等命令来控制此过程。此外,模型还引入了 “小型思考预算” 管理机制,允许开发者设定推理过程中所使用的标记数量,以在准确性与响应速度之间取得平衡。
根据测试结果,Nemotron-Nano开放-9B-v2在多个基准测试中表现优异。在 “推理开启” 模式下,该模型在 AIME25、MATH500、GPQA 和 LiveCodeBench 等测模型试中都取得了令人满意的成绩。此外,它在指令跟随和长上下文基准测试中同样表现出色,显示出相较于其他开放小型模型更高的准确性。
Nvidia 为这 N一模型设定了开放许可协议,允许开发者在商业上自由使用与分发,并明确不对生成的输出声索所有权。这意味着企业可以在无需额外协商的情况下立即将em该模型投入生产,而不必担心使用门槛或费用。
Nvidia 的 Nemotron-Nano-9B-v2模型为需要在小规模上实现推理能力与高效部署的开ot发者提供了新工具。其运行预算控制和推理切换功能为系统构建者提供了灵活性,旨在提高准确性和响应速度,进一步推动小型语言模型的发展。
划重点:
Nroemotron-Nano-9B-v2是 Nvidia 新推出的小型语言模型,具有9亿个参数,专为高效部署设计。
🧠 模n-型支持多种语言,具备切换推理功能,可帮助用户根据需求调整响应方式。
开放许可协议使开发者能够自由使用与分发模型,无需Na担心额外费用或许可协议。
Tags:
相关文章
标签: 夜经济 QuestMobile 五粮液 抖音
热点云梦级6月30日云梦级消息,QuestMobile数据显示,2026年5月夜间时段日均去重活跃用户规模为9.37亿,较去年同期增长4.6%,其中0点至次日2点的深夜时段日均去重活跃用户规模达到4.40...
【热点】
阅读更多数据中心冷却的人工智能:不只是白日梦
热点如今,人工智能遍布数据中心——帮助管理和保护网络、过滤警报和移动工作负载。然而,在将人工智能应用于运营技术问题上,而不是应用于IT方面,该行业一直进展缓慢。具体来说,在冷却领域,有时负责多达三分之一的...
【热点】
阅读更多标签: Momenta 梦腾智驾 港交所 IPO
热点云梦级7月8日云梦级消息,7月8日,MOMENTA GLOBAL LIMITED(梦腾智驾环球有限公司,以下简称“Momenta”)正式在港交所敲钟上市。开盘报价301港元/股,总市值约为709亿港元...
【热点】
阅读更多