中科曙光发布词元加速技术体系:IBGDA十万卡级集群完成验证
9月11日消息,中科中科曙光正式发布scaleFabric Token加速技术体系,曙光率先在国内实现IBGDA技术(即InfiniBand GPU直连异步技术)的发布规模化应用。
据中科曙光相关产品负责人介绍,词元scaleFabric通过构建“算存传”三级紧耦合的加速技术集群词元加速通道,在网络层面与计算、体系存储紧密协同,万完成提升词元吞吐效率,卡级实现词元在大模型训练、验证推理到存储复用全链路的中科高速流转。
较低时延可减少数据在多级网络中的曙光传输耗时,使IBGDA与存储直通带来的发布路径优化进一步延伸至大规模集群,推动计算、词元存储与网络协同提升词元生成效率。加速技术集群
在大模型推理时代,体系混合专家模型(MoE)已成为主流架构,IBGDA技术的价值进一步凸显。在MoE通信中,IBGDA通过减少CPU参与关键通信路径,大幅提升并行通信效率。
此前,IBGDA的规模化落地主要由国际厂商主导,国产RDMA网卡与GPU直通的落地案例极为罕见。目前,中科曙光自研IBGDA技术已在十万卡级大规模集群中完成验证,实现该领域的关键补位。
随着IBGDA进入规模化部署阶段,基于scaleFabric的词元加速技术体系有望进一步提升多卡间数据交换效率,为混合专家模型等提供新的国产高速互连选择,也为国产智算基础设施通过系统优化提升整体性能提供支撑。
同类文章排行
- “电车 买得起修不起”再引热议,电车维修价格达油车1.7倍且维修渠道垄断,保费居高不下;多部门多措并举持续降低新能源汽车维修成本
- 《古墓丽影RE》与原版对比图公开: 画面史诗级进化!
- 海南特色!南国食品椰奶清补凉优惠 6件到手24.9元
- 神剧情!41岁C罗进球被吹后点射扳平,终获淘汰赛首球+破20年魔咒
- 游侠早报:《战狗》入围金摇杆 PS6掌机屏幕用料曝光
- 网络测评不能只剩“生意”
- 官方:澳大利亚裁判法加尼执法世界杯1/8决赛墨西哥vs英格兰
- 默特萨克&克拉默:纳格尔斯曼离开不可避免;克洛普是最佳人选
- 超40吨重卡碾压!极氪009首发三明治空气悬架座椅:超常规测试0变形0塌陷秒回弹
- 图片报:多特为17岁新援普拉特斯申请提前训练特批
最新资讯文章
- 一辆大众ID.Buzz绕地行驶445天 途经92国创下吉尼斯世界纪录
- 知名音乐制作人畅谈 电子游戏是如何影响流行乐坛的
- “20年前捡的女儿,用绝食逼我买苹果手机”,网友:这面相不简单
- 韩国将自制亚运奖牌!颁给游泳接力预赛选手,韩媒直言组委会违规
- 理想汽车广告抄袭沃尔沃?沃尔沃发文:有些经典,总在一次次重温中被铭记
- 1499元起 OPPO Watch S2发布:仅重34.4g 轻松无负担
- 《火纹》获IGN满分 内容体量庞大 发售近十日通关困难
- 张本美和/早田希娜4
- 20斤重的笔记本!Durabook推出三屏加固工作站:自带三块1200尼特屏幕
- 199元!小米米家充气宝3开售:新增泄压阀 充气提速25%
- 博主:中国球员姚奕仰、张与田所在的科尔内利亚梯队将参加梅西杯
- 20斤重的笔记本!Durabook推出三屏加固工作站:自带三块1200尼特屏幕
- 25万的越野大玩具!坦克300虎克之路上市:原厂双硬桥就位
- 20斤重的笔记本!Durabook推出三屏加固工作站:自带三块1200尼特屏幕
- Smart回归老本行!全新两门两座微型车配35.8度电池:能跑410km



