活动速递 | 华为“网络+”破局模型:开启大模型推理加速的下一站
创始人
2025-10-26 14:20:36
0

[中国,哈尔滨,2025年10月23日] 第22届中国计算机大会(CNCC2025)在“冰城”哈尔滨盛大启幕,主题为“数智赋能,无限可能”。华为数据通信产品线研究部部长郑晓龙在大会上发表题为《大模型推理加速与演进:网络如何破局?》的演讲,首次提出“网络+”破局模型,为十万卡智算集群面临的通信瓶颈提供了创新方案。他指出,在单卡算力提升日益趋缓的背景下,唯有通过网络、计算与存储的跨层协同,才能将集群效率推向全新量级。

华为数通研究部部长 郑晓龙发表主题演讲

为支持十万卡智算集群的规模化部署与高效运行,华为提出“网络+”破局模型,旨在系统化解决超大规模集群中的通信瓶颈问题。该主题演讲涵盖架构设计、协议优化与调度策略等多个层面,为构建下一代智算基础设施提供完整技术路径。

网络级负载均衡,应对大EP部署带来的动态通信模式挑战,性能提升20%+。

DeepSeek的出现,将大模型架构引向了更稀疏的大EP部署。随之而来的是通信模式及通信关系的变化。面对通信的随机性和非对称性,华为提出的网络级负载均衡,将通信性能提升20%+,显著降低P99完成时间。

从Chat LLM进入Agentic AI,“超节点”助力实现极致的TPOT需求

大模型应用从聊天式的Chat LLM向Agentic AI演进,对于token生成速度的要求从50ms提升到了10ms以下。这在当前的部署实践中,存在多个挑战:推理阶段以小消息通信为主,控制面时延占比高;单纯卸载控制面,则会消耗计算资源SM。华为推出了CloudMatrix384超节点及对应的超节点网络,为满足极致的TPOT需求提供了可能。

多模态LMM流量混战,网络调度“四两拨千斤”,提升推理性能

“网络+”不是简单的带宽升级,而是让网络成为AI集群的‘第七代算力’。”郑晓龙最后呼吁,华为愿与业界共建标准,与合作伙伴及行业组织一起,共同定义大模型时代的下一代智算网络接口。

相关内容

热门资讯

华为云空间“全新临时备份”功能... IT之家 1 月 19 日消息,华为宣布华为云空间中的“全新临时备份”今天正式下线,后续将无法继续新...
江苏高顿取得管道除尘过滤装置专... 国家知识产权局信息显示,江苏高顿机电设备工程有限公司取得一项名为“一种管道除尘过滤装置”的专利,授权...
贾国龙转发人民日报评论西贝关店... 1月19日,人民日报评论再评西贝关店事件,西贝贾国龙转发朋友圈并表示将转换思维,努力顺应互联网。 ...
水果果汁机买哪个牌子好?这4款... 选果汁机最怕的就是买回去“吃灰”,核心就看你的 懒惰程度和 对口感的挑剔程度。如果你追求极致的纯果汁...
联通通用流量卡全攻略:2025... 办卡:微 信 公 众 号 搜【 可可 找 卡】,每天更新运营商官方高性价比套餐!帮你精准匹配适配流量...
攻克监测难题 筑牢安全防线——... “以前每月定期检测闸盘偏摆,需爬上爬下核对数据,耗时费力且无法掌握刹车系统压力变化。现在有了智能传感...
发热?掉帧?电量焦虑?聊聊手机... 如果要问我现在什么手机品牌最好?我的回答绝对务实“没什么绝对好,更没有什么绝对不好的,一切在于你”,...
谷歌SEO源头公司十大排名:华... 在当今数字化浪潮中,企业若想在全球市场崭露头角,搜索引擎优化(SEO)已成为不可或缺的战略工具。作为...
张家口算力资源引来AI微短剧行... 1月12日,张家口数字文创产业基地,北动漫(河北)网络科技有限公司员工在讨论人工智能项目细节。 本报...
卡倍亿:112G、224G等高... 1月20日,据卡倍亿官方微信公众号消息,公司近日在高速铜缆产品的技术研发与产业化进展方面取得系列重要...