2025年分布式推理网络技术白皮书
创始人
2025-05-05 20:00:22
0

《分布式推理网络(DIN)技术白皮书(2025年)》由中国移动通信有限公司研究院发布,全面剖析了AI大模型时代的业务趋势与挑战。报告指出,以DeepSeek-R1为代表的高性能低成本大模型正驱动AI普惠化,用户从传统内容访问转向AI模型调用,AI Agent通信流量显著增长。然而,端云多模态交互和Agent间东西向流量激增对网络时延提出更高要求,同时暴露出AI推理基础设施能力不足、推理网络架构待完善、服务网络安全防护能力薄弱等核心瓶颈。

报告系统介绍了DIN的分布式架构及其适应多样化推理服务范式的技术体系。DIN通过端、边、网、算协同实现高安全、高并发的网络连接,满足ToB场景下算网一体安全推理、边云协同后训练、模型分层协同需求,同时支持ToC/ToH场景中的大小模型协同推理、训推协同进化、PD分离部署等创新模式。其设计目标包括构建可扩展架构以提供低时延推理服务,通过确定性连接保障数据传输性能,并构建多层次安全防护体系保护数据隐私。

报告总结了DIN关键技术突破,包括微流级流控、细粒度切片等节点间互联质量保障技术,集中式与分布式相结合的推理服务调度方案,以及基于PHYSec技术、拒绝服务防护和轻量化APT监测的模型推理安全体系。展望未来,中国移动将联合产业界完善DIN技术与标准体系,通过融合端边云协同优势应对AI普惠化的时延、安全和成本挑战,推动智能社会建设,助力AI推理服务实现安全、高效、普惠的全面升级。

相关内容

热门资讯

“人工智能+制造”创新发展推进... 中国教育报-中国教育新闻网讯(记者 任朝霞)近日,国家流程制造智能调控技术创新中心(以下简称“国创中...
石家庄市化学学会承办超分子化学... 5月29日至31日,由河北师范大学、河北省化学会主办,化学与材料科学学院、河北省有机功能分子重点实验...
直流充电枪测试系统厂家梳理 新... 导语:在新能源充电设备测试领域,直流充电枪测试系统作为关键环节,其性能稳定性直接影响充电桩与车辆的安...
华硕展出ROG 20周年纪念款... 快科技6月11日消息,华硕于台北电脑展期间正式发布ROG CROSSHAIR X870E EDITI...
引望智能技术申请智能驾驶方法专... 国家知识产权局信息显示,引望智能技术有限公司申请一项名为“一种智能驾驶方法、装置、存储介质及计算机程...
追问胜宏科技电梯亲密视频流传:... 近日,胜宏科技董事长爆出电梯内亲密视频事件,公共监控视频系统的安全问题也引发关注。 从小区物业、企业...
宁波沱沱河设计取得折叠支架专利... 国家知识产权局信息显示,宁波沱沱河设计有限公司取得一项名为“折叠支架”的专利,授权公告号CN2243...
孩子第一次换手机,求推荐! 之前一直都是用爸妈淘汰下来的手机,高考完终于可以换一台真正属于自己的新手机了! 问了很多同学朋友,主...
微信AI真正该抄的作业,在谷歌... 这两天微信AI的热度非常高,但大多数讨论都集中在它能做什么、怎么用。 大家都在猜测微信AI会长成什么...
微信会收费吗? 6月8日,微信官方发了篇《关于开发者接入微信AI生态的指引》,确认微信正在内测通过 AI 调用生态内...