2025年分布式推理网络技术白皮书
创始人
2025-05-05 20:00:22
0

《分布式推理网络(DIN)技术白皮书(2025年)》由中国移动通信有限公司研究院发布,全面剖析了AI大模型时代的业务趋势与挑战。报告指出,以DeepSeek-R1为代表的高性能低成本大模型正驱动AI普惠化,用户从传统内容访问转向AI模型调用,AI Agent通信流量显著增长。然而,端云多模态交互和Agent间东西向流量激增对网络时延提出更高要求,同时暴露出AI推理基础设施能力不足、推理网络架构待完善、服务网络安全防护能力薄弱等核心瓶颈。

报告系统介绍了DIN的分布式架构及其适应多样化推理服务范式的技术体系。DIN通过端、边、网、算协同实现高安全、高并发的网络连接,满足ToB场景下算网一体安全推理、边云协同后训练、模型分层协同需求,同时支持ToC/ToH场景中的大小模型协同推理、训推协同进化、PD分离部署等创新模式。其设计目标包括构建可扩展架构以提供低时延推理服务,通过确定性连接保障数据传输性能,并构建多层次安全防护体系保护数据隐私。

报告总结了DIN关键技术突破,包括微流级流控、细粒度切片等节点间互联质量保障技术,集中式与分布式相结合的推理服务调度方案,以及基于PHYSec技术、拒绝服务防护和轻量化APT监测的模型推理安全体系。展望未来,中国移动将联合产业界完善DIN技术与标准体系,通过融合端边云协同优势应对AI普惠化的时延、安全和成本挑战,推动智能社会建设,助力AI推理服务实现安全、高效、普惠的全面升级。

相关内容

热门资讯

专家解读|筑牢智能向善的伦理安... 近日,全国网络安全标准化技术委员会公布《人工智能应用伦理安全指引1.0》(以下简称《指引》),标志着...
人工智能赋能长期照护体系建设 ... 日内瓦当地时间 2026年5月20日,第 79 届世界卫生大会期间,由国家医疗保障局、世界卫生组织共...
小米REDMI Note 17... 5 月 23 日消息,据外媒 XIMITIME 昨天报道,小米 REDMI Note 17 系列手机...
第64届高等教育博览会南昌开幕... 5月22日,江西南昌红谷滩区,第64届高等教育博览会在江西南昌开幕,本次博览会吸引了超1500所高校...
全国首个人形机器人全生命周期管... 央广网北京5月22日消息(记者 朱冠安)5月22日,人形机器人全生命周期管理服务平台工作推进会在北京...
原创 香... 2026年5月23日,中国载人航天工程办公室重磅官宣神舟二十三号载人飞行任务乘组名单,来自中国香港的...
Linus Torvalds称... IT之家 5 月 23 日消息,在 Linux 基金会北美开源峰会上,Linus Torvalds ...
国家数据局:“数据要素×”行动... 【国家数据局:“数据要素×”行动推动数据基础设施建设运营加快】财联社5月23日电,从国家数据局了解到...
原创 除... 据新加坡联合早报5月21日报道,被视为欧洲科技界领军人物之一的荷兰光刻机巨头阿斯麦(ASML)首席执...
京东工业发布AI智采管家 助力... 当前,新一轮科技革命与产业变革加速演进,人工智能正成为推动中国工业转型升级的核心引擎。长期以来,中小...