2025年分布式推理网络技术白皮书
创始人
2025-05-05 20:00:22
0

《分布式推理网络(DIN)技术白皮书(2025年)》由中国移动通信有限公司研究院发布,全面剖析了AI大模型时代的业务趋势与挑战。报告指出,以DeepSeek-R1为代表的高性能低成本大模型正驱动AI普惠化,用户从传统内容访问转向AI模型调用,AI Agent通信流量显著增长。然而,端云多模态交互和Agent间东西向流量激增对网络时延提出更高要求,同时暴露出AI推理基础设施能力不足、推理网络架构待完善、服务网络安全防护能力薄弱等核心瓶颈。

报告系统介绍了DIN的分布式架构及其适应多样化推理服务范式的技术体系。DIN通过端、边、网、算协同实现高安全、高并发的网络连接,满足ToB场景下算网一体安全推理、边云协同后训练、模型分层协同需求,同时支持ToC/ToH场景中的大小模型协同推理、训推协同进化、PD分离部署等创新模式。其设计目标包括构建可扩展架构以提供低时延推理服务,通过确定性连接保障数据传输性能,并构建多层次安全防护体系保护数据隐私。

报告总结了DIN关键技术突破,包括微流级流控、细粒度切片等节点间互联质量保障技术,集中式与分布式相结合的推理服务调度方案,以及基于PHYSec技术、拒绝服务防护和轻量化APT监测的模型推理安全体系。展望未来,中国移动将联合产业界完善DIN技术与标准体系,通过融合端边云协同优势应对AI普惠化的时延、安全和成本挑战,推动智能社会建设,助力AI推理服务实现安全、高效、普惠的全面升级。

相关内容

热门资讯

【关注】“无感”之中见“有心” “无感”之中见“有心” □新声 科技飞速迭代,重塑着社会生活的方方面面。 扫码办事、线上申办成为政务...
AI赋能文博创意,让文物创新走... 近日,2026广州互联网大会在广州举行。本届大会以“智赋千行·新质领航”为主题,采用“三区联动”模式...
建功新时代丨彭彪:守匠心深耕实... 委员名片 彭彪,市政协委员、毫厘机电(苏州)有限公司总经理。 投身芯片液冷赛道深耕实业,用一腔热忱...
荣耀这 1TB 千元新机,真是... 来源:科技狐 这周有点 “ 机荒 ” 啊! 各家重磅新机要等到下周才开始上,目前正是暗流涌动的前奏,...
硬核实力秀出来!门头沟8家企业... 近日,北京市科学技术委员会、中关村科技园区管理委员会等5部门正式公布北京市新技术新产品新服务(总第二...
8月安兔兔安卓旗舰手机性能榜出... 【CNMO科技消息】9月1日,@安兔兔 发布2026年8月安卓旗舰手机性能榜,CNMO科技注意到,榜...
全球4年、国内6年市占率第一!... 津云新闻讯:2026年9月1日,梅卡曼德(雄安)机器人科技股份有限公司(09615.HK)正式在港交...
华米耀多款机型涨价 | Ori... 9月1日,华为、小米、荣耀三大品牌多款在售机型涨价。 首先是华为调价幅度最为明显,Mate 80系...
8月主要新势力品牌销量点评 零... 9月1日,零跑、鸿蒙智行、小鹏、理想、蔚来、小米、极氪等主要新势力品牌都比较早地公布了8月交付成绩,...
中国工信部组织开展人工智能应用... (来源:中工网) 中新社北京8月31日电 (记者 刘亮)中国工信部8月31日发布通知,组织开展人工智...