2025年分布式推理网络技术白皮书
创始人
2025-05-05 20:00:22
0

《分布式推理网络(DIN)技术白皮书(2025年)》由中国移动通信有限公司研究院发布,全面剖析了AI大模型时代的业务趋势与挑战。报告指出,以DeepSeek-R1为代表的高性能低成本大模型正驱动AI普惠化,用户从传统内容访问转向AI模型调用,AI Agent通信流量显著增长。然而,端云多模态交互和Agent间东西向流量激增对网络时延提出更高要求,同时暴露出AI推理基础设施能力不足、推理网络架构待完善、服务网络安全防护能力薄弱等核心瓶颈。

报告系统介绍了DIN的分布式架构及其适应多样化推理服务范式的技术体系。DIN通过端、边、网、算协同实现高安全、高并发的网络连接,满足ToB场景下算网一体安全推理、边云协同后训练、模型分层协同需求,同时支持ToC/ToH场景中的大小模型协同推理、训推协同进化、PD分离部署等创新模式。其设计目标包括构建可扩展架构以提供低时延推理服务,通过确定性连接保障数据传输性能,并构建多层次安全防护体系保护数据隐私。

报告总结了DIN关键技术突破,包括微流级流控、细粒度切片等节点间互联质量保障技术,集中式与分布式相结合的推理服务调度方案,以及基于PHYSec技术、拒绝服务防护和轻量化APT监测的模型推理安全体系。展望未来,中国移动将联合产业界完善DIN技术与标准体系,通过融合端边云协同优势应对AI普惠化的时延、安全和成本挑战,推动智能社会建设,助力AI推理服务实现安全、高效、普惠的全面升级。

相关内容

热门资讯

中国电信为5G增强通话规模化商... 中国电信日前牵头联合中兴通讯,在四川成功完成5G增强通话AI降噪业务(以下简称“AI降噪通话”)现网...
闪迪韩国:向消费级应用分配的N... IT之家 5 月 19 日消息,闪迪 (Sandisk) 韩国今日在首尔举行了 SANDISK Op...
以青春赴使命 以实干亮初心,上... “ 唱响守护高墙的 青春“组”歌 Youth Day 青春逢盛世,奋斗正当时。高墙之内,有这样一群青...
2026年中高端拍照手机终极推... 在2026年的手机市场,预算在5000元左右的用户,对于拍照手机的需求已经非常具体和深入。无论是追求...
5月新机大战再添一员!vivo... 快科技5月19日消息,5月手机市场迎来新一轮发布潮,结合官方预热和近期爆料来看,本月将有至少十余款新...
杭州创投观察:“新八骏”逐浪钱... 中新网杭州5月19日电(蓝伊旎)5月18日,“幸会杭州·对话未来”投资促进大会暨创新创业投资高质量发...
杨子家族套现28个亿后,公司被... 有“明星光环”的商业航天大牛股,出事了。 5月15日晚间,演员杨子家族掌控的A股公司巨力索具发公告称...
三星员工收入曝光:月薪狂涨25... 快科技5月19日消息,韩国CXO研究所发布报告显示,2026年一季度三星电子员工人均月薪约1200万...
九十五年老厂房里,一场跨越时空... 他是毛泽东亲笔题词“无限忠诚”的红色工程师,是新中国第一台万吨水压机的总设计师,是“为自主创新而生、...
银河航天自主研制 我国商业航天... 上证报中国证券网讯(记者 刘怡鹤)5月19日,银河航天宣布自主研制的大口径可展开的伞天线下线。这是国...