美团龙猫开源 LongCat-2.5 多模态模型:总参数 1.6 万亿,支持百万上下文

11月9日,美团龙猫宣布开源 LongCat-2.5 模型。该模型于11月2日发布,定位为面向长程智能体任务的原生多模态模型,采用 MIT 协议,允许商用推理部署与二次训练,无需额外授权。在复杂代码库开发、完整项目构建、Visual Coding 与专业办公场景中,端到端交付能力均有明显提升。

美团龙猫开源 LongCat-2.5 多模态模型:总参数 1.6 万亿,支持百万上下文

参数规模与部署优化

LongCat-2.5 总参数为 1.6 万亿,每个 token 激活约 480 亿参数,支持 100 万上下文。团队针对显存与带宽受限的国产算力芯片,在模型架构、芯片适配与部署策略上进行了深度协同优化。

视觉表征与推理方案

LongCat-2.5 在 Visual Coding 上表现出色,支持创意设计、3D 等任务。模型将视觉信号表示为多层级离散 token,与文本一样由主干模型统一处理,而非外挂视觉模块。具体实现上,模型对原生分辨率视觉特征做残差向量量化,逐级补足细节;视觉 token 可离线预计算并缓存,减少在线计算量,也让分布式训练负载更均衡。视觉码本与主干联合训练,视觉与文本共享同一套主干参数,在同一语义空间内协同完成视觉理解与代码生成。

推理方面,LongCat-2.5 采用 W4A4 高效推理方案,将专家权重与激活同时量化到 4 bit,并通过原生 INT4 矩阵乘法单元执行计算。模型已在 Hugging Face 开源,技术博客和 API 平台也已上线。