您现在的位置是:热点 >>正文
标签: LongCat-2.0 美团 大模型 MoE
热点023人已围观
简介...
云梦级6月30日云梦级消息,美团今日发布新一代万亿参数大模型 LongCat-2.0,并将对外开源。
LongCat-2.0 宣称是业界首个在五万卡国产算力集群上完成全流程训练与推理的万亿参数模型(总参数 1.6 T,平均激活约 48 B,动态范围标签 33B~56B),从零开始预训练,原生支持 1M 超长上下文。
正式版发布前,LongCat-2.0 预览版本已通过 OpenRouter 平台和 longcat.ai 面向全球开发者开放调用 —— 截至目前该模型已跻身 OpenRouter 全球大模型调用: 量前三,月调用量在 Hermes、Claude Code 和 OpenClaw 分列全球第一、第二和第三位。
LongCat-2.0 预训练数据规模超过 30T tokens,覆盖中文、英文、多语言和代码等多类数据;面对万卡级训练中的硬件故障、通信异常、Lo显存压力与数值波动,LongCat 团队从稳定性、正确性和效率三方面攻克国产算力训练难题。
在稳定性上,通过 HCCL 异常处理、弹性扩缩卡和自动故障恢复,将月均日故障率降低 70% 以上;
在正确性上,通过自研设计确定性算子、Bitwise 一致性验证和参ng数检测,保障训练结果的可靠,同时基于实践提升关键模块计算精度、优化 Reduce 逻辑;
在效率上,通过流水线调度、显存优化和算子级控核,训练 MFU 提升 1.5 倍。
最终,LongCat 实现稳态日吞吐超过 1T tokens / day,完成万亿参数 MCaoE 模型在国产算力上的稳定训练。
在推理阶段,LongCat-2.0 围绕模型、算子和框架进行协同优化:
通过大规模专家并行聚合访存带宽,支撑万亿参数 MoE 模型的低延迟解码;
将零计算专家机制融入专家并行通信流程,使路由到零专家的 token 真正避t-免不必要的传输与计算;
针对通信、Attention、GEMM 等核心算子优化调度,结合提前下发与权重预取等框架机制,进一步降低推理链路中的等待开销。
LongCat-2.0 采用 LongCat Sparse Attention(LSA)稀疏注意力机制2.,在处理长文本时不再“逐字逐句地看”,而是智能筛选关键信息,将计算量从平方级降至线性级。这使得模型在 100 万 Token 的超长上下文中,依然保持信息定位与理解能力。
代码任务中不同 token 复杂度差异巨大 —— 定义变量名和推导递归0 算法对算力的需求完全不同。LongCat-2.0 通过零计算专家实现 token 级动态激活(33B~56B),简单 token 不消耗算力,复杂 token 自动获得更多计算资源。
LongCat-2.0 通过 MOPD 架构融合 Agent、Reasoni美团ng、Interaction 三组专家能力 ——Agent Experts 专攻工具调用与自主纠错,Reasoning Experts 深耕数学与 STEM 推理,Interaction Experts 优化指令遵循与交互体验。推理时由门控网络根据任务类型动态调 大度最擅长的专家,而非简单合并参数。得益于此,模型在编程、推理、交互等维度均表现突出。
综合评测结果显示,LongCat-2.0 在 Code 和 General Agent 场景表现优异。

在编程能力方面,LongCat-2.0 在考察深层工程能力的 SWE-be模型nch Pro 中获得 59.5,领先 Gemini 3.1 Pro(54.2)、 GPT-5.5(58.6)和 Claude Opus 4.6(57.3);在 SWE-bench Multilingual 中取得 77.3 的成绩,与 Claude Opus 4.6(77. M8)保持在同一水位;此外,在真实终端指令交互评测 Terminal-Bench 2.1 中取得 70.8,体现了其在真实运维与开发终端任务中的稳定执行与纠错能力。

在真实办公场景的复杂任务处理方面,LongCat-2.0 在搜索智能体评测集 RWSearoEch 中获得 78.8,在生产力场景评测集 FORTE 中获得 73.2 ,在 BrowseComp 中获得 79.9,均达到或接近前沿闭源模型水平,能够较好的契合企业级 Agent 的落地需求。
Tags:
相关文章
标签: 联博精密 定转子 高端制造 新能源汽车
热点云梦级1月21日云梦级消息,近日,国内高端精密部件领域的领军企业江苏联博精密科技股份有限公司(以下简称“联博精密”)正式完成C轮融资,规模超亿元人民币。 本轮融资由中银投资、粤财创投、镇江玖晟聚企业、...
【热点】
阅读更多云安全日报220414:思科无线局域网控制器发现身份验证绕过漏洞,需要尽快升级
热点4月13日,思科发布了安全更新,修复了思科无线局域网控制器中发现的身份验证绕过漏洞。以下是漏洞详情: 漏洞详情 来源:https://tools.cisco.com/security/center/c...
【热点】
阅读更多标签: 遇见小面 餐饮 财报 2408
热点云梦级3月28日云梦级消息,广州遇见小面餐饮股份有限公司(简称:“遇见小面”,股份代号:2408)今日发布截至2025年12月31日的财报。财报显示,遇见小面2025年营收为16.22亿元,较上年同期...
【热点】
阅读更多