活动速递 | 华为“网络+”破局模型:开启大模型推理加速的下一站
创始人
2025-10-26 14:20:36
0

[中国,哈尔滨,2025年10月23日] 第22届中国计算机大会(CNCC2025)在“冰城”哈尔滨盛大启幕,主题为“数智赋能,无限可能”。华为数据通信产品线研究部部长郑晓龙在大会上发表题为《大模型推理加速与演进:网络如何破局?》的演讲,首次提出“网络+”破局模型,为十万卡智算集群面临的通信瓶颈提供了创新方案。他指出,在单卡算力提升日益趋缓的背景下,唯有通过网络、计算与存储的跨层协同,才能将集群效率推向全新量级。

华为数通研究部部长 郑晓龙发表主题演讲

为支持十万卡智算集群的规模化部署与高效运行,华为提出“网络+”破局模型,旨在系统化解决超大规模集群中的通信瓶颈问题。该主题演讲涵盖架构设计、协议优化与调度策略等多个层面,为构建下一代智算基础设施提供完整技术路径。

网络级负载均衡,应对大EP部署带来的动态通信模式挑战,性能提升20%+。

DeepSeek的出现,将大模型架构引向了更稀疏的大EP部署。随之而来的是通信模式及通信关系的变化。面对通信的随机性和非对称性,华为提出的网络级负载均衡,将通信性能提升20%+,显著降低P99完成时间。

从Chat LLM进入Agentic AI,“超节点”助力实现极致的TPOT需求

大模型应用从聊天式的Chat LLM向Agentic AI演进,对于token生成速度的要求从50ms提升到了10ms以下。这在当前的部署实践中,存在多个挑战:推理阶段以小消息通信为主,控制面时延占比高;单纯卸载控制面,则会消耗计算资源SM。华为推出了CloudMatrix384超节点及对应的超节点网络,为满足极致的TPOT需求提供了可能。

多模态LMM流量混战,网络调度“四两拨千斤”,提升推理性能

“网络+”不是简单的带宽升级,而是让网络成为AI集群的‘第七代算力’。”郑晓龙最后呼吁,华为愿与业界共建标准,与合作伙伴及行业组织一起,共同定义大模型时代的下一代智算网络接口。

相关内容

热门资讯

“引力一号”一箭九星发射成功 本报讯 (记者 房雅雯) 7月22日10时54分,太原卫星发射中心于上海东部海域实施海上发射任务,东...
铁威马推出4+4盘位DAS硬盘... IT之家 7 月 23 日消息,TerraMaster(铁威马)现已推出 DAS(直连附加存储)新品...
收割水草、监测虫害,72台机器... 互联网虫情测报灯、水面割草机器人……北京市属公园迎来一批特殊的“新同事”。记者7月23日获悉,北京市...
机情问答:三星Z Fold8对... 【CNMO科技】三星Z Fold8近日正式发布,与今年4月登场的华为Pura X Max形成双雄对峙...
黄仁勋:中国AI模型非常优秀,... 据美国Axios新闻网当地时间22日报道,美国英伟达公司创始人兼首席执行官(CEO)黄仁勋接受该媒体...
特斯拉机器人量产依然困难,中国... 一位接近特斯拉机器人供应链人士告诉《财经》,特斯拉以10万台意向订单的框架采购供应商的零部件,并希望...
突发事件! OpenAI 大模... 当地时间21日,美国人工智能公司OpenAI对外披露,旗下部分AI模型在一次内部安全测试中失控,突破...
前所未有的人工智能失控事故!中... 近日,美国人惊恐地得知,类似科幻电影《终结者》中人工智能失控攻击人类的情况,居然真的在美国上演了。更...
“以负责任的方式治理人工智能” 本报记者 颜 欢 “各方应加强对话合作,让人工智能发展成果惠及更多人”。西班牙IE大学科技学院项目...
收官WAIC2026|引态科技... 为为期四天的2026世界人工智能大会已于7月20日在上海圆满落幕。本届大会以“智能伙伴共创未来”为主...