2025年分布式推理网络技术白皮书
创始人
2025-05-05 20:00:22
0

《分布式推理网络(DIN)技术白皮书(2025年)》由中国移动通信有限公司研究院发布,全面剖析了AI大模型时代的业务趋势与挑战。报告指出,以DeepSeek-R1为代表的高性能低成本大模型正驱动AI普惠化,用户从传统内容访问转向AI模型调用,AI Agent通信流量显著增长。然而,端云多模态交互和Agent间东西向流量激增对网络时延提出更高要求,同时暴露出AI推理基础设施能力不足、推理网络架构待完善、服务网络安全防护能力薄弱等核心瓶颈。

报告系统介绍了DIN的分布式架构及其适应多样化推理服务范式的技术体系。DIN通过端、边、网、算协同实现高安全、高并发的网络连接,满足ToB场景下算网一体安全推理、边云协同后训练、模型分层协同需求,同时支持ToC/ToH场景中的大小模型协同推理、训推协同进化、PD分离部署等创新模式。其设计目标包括构建可扩展架构以提供低时延推理服务,通过确定性连接保障数据传输性能,并构建多层次安全防护体系保护数据隐私。

报告总结了DIN关键技术突破,包括微流级流控、细粒度切片等节点间互联质量保障技术,集中式与分布式相结合的推理服务调度方案,以及基于PHYSec技术、拒绝服务防护和轻量化APT监测的模型推理安全体系。展望未来,中国移动将联合产业界完善DIN技术与标准体系,通过融合端边云协同优势应对AI普惠化的时延、安全和成本挑战,推动智能社会建设,助力AI推理服务实现安全、高效、普惠的全面升级。

相关内容

热门资讯

人民网评:以反垄断为切入口,助... 近日,市场监管总局根据前期核查,依据反垄断法对携程集团有限公司涉嫌滥用市场支配地位实施垄断行为立案调...
小米申请通信方法专利,提升信道... 国家知识产权局信息显示,北京小米移动软件有限公司申请一项名为“通信方法、设备、系统及存储介质”的专利...
蚌埠市创新生态环境智慧监管打造... 近期上线运行全省首个市级生态环境规范涉企行政检查平台,构建“线下免查+涉企平台”智慧监管模式。运行以...
全球爆火AI框架陷绝境!创始人... 新智元报道 编辑:Aeneas 【新智元导读】一则消息震惊了整个开发者社区:开发了前端基础设施的T...
节水进行时 | 中水的“中”,... 编者按 节水,不仅关乎可持续发展的宏大的主题,也同样系于你我生活中的细微之处:一个关紧的水龙头,一次...
内存条价格暴涨!报告称存储市场... “内存条跟硬盘一天一个价,越来越高,跟去年相比涨了三四倍”“现在每天大约涨40元”。 近段时间,内存...
寿县寿春镇:电商平台聚力 擦亮... 近日,由寿县寿春镇兴隆村新型农民创办的电商平台企业——寿县兴隆优选电子商务有限公司运营。这家企业致力...
抖音“亲子护航”、“AI笔记”... 本报讯 (记者袁传玺) 近日,抖音未成年人模式产品能力再升级,“亲子护航”功能优化上线,同时全新推出...
燕化集联光电申请蓝光主体材料专... 国家知识产权局信息显示,北京燕化集联光电技术有限公司申请一项名为“一种蓝光主体材料及其应用”的专利,...
控制权之争进入“判决周”:安世... 阿姆斯特丹法院,法官的判决将决定一家跨国芯片巨头是走向永久分裂,还是艰难弥合裂痕。 2026年1月1...