2025年分布式推理网络技术白皮书
创始人
2025-05-05 20:00:22
0

《分布式推理网络(DIN)技术白皮书(2025年)》由中国移动通信有限公司研究院发布,全面剖析了AI大模型时代的业务趋势与挑战。报告指出,以DeepSeek-R1为代表的高性能低成本大模型正驱动AI普惠化,用户从传统内容访问转向AI模型调用,AI Agent通信流量显著增长。然而,端云多模态交互和Agent间东西向流量激增对网络时延提出更高要求,同时暴露出AI推理基础设施能力不足、推理网络架构待完善、服务网络安全防护能力薄弱等核心瓶颈。

报告系统介绍了DIN的分布式架构及其适应多样化推理服务范式的技术体系。DIN通过端、边、网、算协同实现高安全、高并发的网络连接,满足ToB场景下算网一体安全推理、边云协同后训练、模型分层协同需求,同时支持ToC/ToH场景中的大小模型协同推理、训推协同进化、PD分离部署等创新模式。其设计目标包括构建可扩展架构以提供低时延推理服务,通过确定性连接保障数据传输性能,并构建多层次安全防护体系保护数据隐私。

报告总结了DIN关键技术突破,包括微流级流控、细粒度切片等节点间互联质量保障技术,集中式与分布式相结合的推理服务调度方案,以及基于PHYSec技术、拒绝服务防护和轻量化APT监测的模型推理安全体系。展望未来,中国移动将联合产业界完善DIN技术与标准体系,通过融合端边云协同优势应对AI普惠化的时延、安全和成本挑战,推动智能社会建设,助力AI推理服务实现安全、高效、普惠的全面升级。

相关内容

热门资讯

装卸具身机器人商业落地如何?赛... 央广网北京8月21日消息(记者 樊瑞)当具身智能步入“下半场”,市场目光都在转向垂直落地。那在物流场...
浦发银行助力朱雀三号圆梦太空 8月19日7时35分,东风商业航天创新试验区的戈壁滩上,蓝箭航天朱雀三号遥二运载火箭一飞冲天。 随着...
安徽词元公共服务平台上线,科大... (来源:科大讯飞集团) 8月21日,由数字安徽有限责任公司主办的安徽算力产业生态大会在合肥举办,重点...
超导领域新突破!我国科学家利用... 记者8月20日从中国科学技术大学获悉,该校曾长淦教授、程广珲特任教授领衔的研究团队与合作者合作, 首...
明略科技吴明辉WRC主论坛演讲... 2026-08-21 19:16:29 作者:狼叫兽 在2026世界机器人大会主论坛上,明略科技创始...
智造进行时|AI“易容”升级 ... 2026年8月,位于两江新区的马上消费金融股份有限公司,工作人员在介绍天镜3.0金融大模型。 马上消...
兆龙互连:公司具备高速有源铜缆... (来源:财闻) 有源铜缆传输距离受信号处理芯片性能、线缆结构、传输速率等多重因素影响。公司将持续开展...
湘潭市科协党组书记王霓调研专家... 8月19日至20日,湘潭市科协党组书记王霓带队开展“三站”建设专项调研,相关县市区科协负责同志参加。...
甘肃西固:一块橡胶的创新突围 【小产品大市场】 当你在加油站给爱车加油时,或许很少留意,那条输送油料的管道,是用一种叫作丁腈橡胶的...
广货行天下 | 一头智能“鲸”... 8月的深圳,海风温热,街头巷尾的APEC元素悄然增多。 大鹏湾畔,盐田国际集装箱码头吊机起落,集装箱...