昇腾A2芯片立功!华为首次公开美团LongCat
此次公开的片立部署细节显示,标志着国产芯片已具备承载万亿参数大模型推理任务的功华能力,
LongCat-2.0,为首总参数量达1.6万亿,开美将模型划分为8个独立计算Stage,昇腾华为CANN(昇腾AI异构计算架构)团队首次公开披露了美团万亿参数大模型LongCat-2.0在昇腾A2芯片上的片立完整部署方案。原生支持100万Token超长上下文。功华Prefill阶段采用64张昇腾A2协同调度,为首有效支撑大规模分布式推理。开美
昇腾A2单卡内置高速网卡可提供200Gbps传输带宽,昇腾单机16卡。片立
计算流调度上实现计算与通信双流并行,功华
业内人士表示,为首Prefill阶段采用FlashComm算法降低Vector算力消耗。开美
LongCat-2.0是美团继1月发布LongCat-Flash-2601后又一次重磅开源。测试版本在OpenRouter总调用量已跻身全球前三。
算法层面,最终实现TPOT时延仅20ms。压缩MoE通信耗时10倍。为AI算力国产替代提供了可复用的技术范本。
7月6日消息,短请求采用DP128+EP128方案,
Prefill阶段融合流水线并行与序列并行双重策略,
该模型是业界首个完全基于国产算力完成训练与推理全流程的万亿参数模型。LongCat-2.0基于昇腾Atlas A2 192卡集群部署,Decode阶段利用A2超大L2 Cache优势实现模型权重异步预取,CANN推理团队针对LongCat-2.0的MoE超稀疏专家架构与百万级长序列进行了系统级优化。
Decode阶段根据序列长度差异化切分,超长序列采用DP16CP8+EP128方案,将MoE专家计算与Dense层计算拆分为独立计算流,Decode阶段采用128卡超大规模专家并行EP部署。加速矩阵运算。最大限度利用芯片带宽与算力。
同类文章排行
- 长假期间如何管理健康 推荐将三星Galaxy Watch戴在腕间
- 全境封锁2开启限时免费试玩!全新资料片玩法即将揭晓
- 暗讽亚马尔姆巴佩?凯恩:我不爱自吹自擂 别人夸赞让我更有成就感
- 黑马新作“裁缝模拟器”1天卖回本!男女玩家通宵沉迷
- 持续清新口气!阿尔卑斯漱口水发车 5块9到手
- 41岁C罗:我肯定会打进1000球才退役 有媒体想杀我但根本没法做到
- 内存涨疯了!海盗船32GB DDR5
- 小米18 Pro系列四色亮相:一体式纯平背屏 极窄四等边
- 《巫师3重制版》倒计时!战斗系统强化实锤+新实机
- Secretlab《怪物猎人》联名电竞椅雷狼龙限定国行开售
最新资讯文章
- 布拉德·皮特新片《野兽之心》预售开启 荒野实拍呈现震撼自然美景
- 德国队史首次输给希腊!59岁渣叔上任后2场0胜 抱头不敢信:运气差
- 微软发起格斗游戏复活投票!《杀手本能》断层领先
- 4K花园与鲸纬传媒达成战略合作:超高清技术赋能AIGC内容生态升级
- 黄蜂遭打击!克努佩尔与格威均出现腿筋伤势:两人都将缺席季前赛
- 灰熊官宣裁掉前湖人榜眼拉塞尔:首选留NBA 已推荐给多支CBA球队
- 满油续航破1000km 哈弗大狗HEV混动版上市:10.59万起
- 从“抬头可见”到规模服务:北京文化论坛AI眼镜实时翻译能力全面升级
- 我决定卸载红果短剧App
- 国足未来中场真核?21岁依木兰亚运重返巅峰 屡送秒传+造超级单刀
- 善恶有报!败诉1年,杨某媛现状被扒,再迎2大噩耗,个个戳心窝
- 预售32.98万起要抢友商9系SUV蛋糕 一图读懂享界V8选配方案
- 《Ved 疗愈所》:闯过第 1000 款 “买了不玩” 的游戏
- 双2亿镜头!OPPO Find X10图赏
- 1499元起 OPPO Watch S2发布:仅重34.4g 轻松无负担



