DeepSeek R1推理性能提升3.8倍,AMD发布下一代开源软件栈技术ROCm 7
创始人
2025-06-14 11:40:47
0

6 月 13 日消息,在今日凌晨的 AMD Advancing AI 2025 活动中,AMD 正式推出其下一代开源软件栈技术 ROCm 7,进一步加速 AI 与开发者生产力。

随着 ROCm 7 的发布,AMD 终于从其 ROCm 6 软件栈向前迈进,该软件栈在过去几年中 —— 尤其是在 AI 计算出现以来 —— 已经经历了多次更新。以下是 AMD 在 ROCm 7 中重点关注的一些功能:

最新算法与模型

用于扩展 AI 的高级功能

MI350 系列支持

集群管理

企业级功能

通过 ROCm,AMD 表示其正更加专注于其软件堆栈中日益增长的推理能力。ROCm 7 堆栈将包括增强型框架,如 vLLM v1、llm-d、SGLang,并专注于提供多种优化。即将到来的 ROCm 7 新内核和算法包括 GEMM 自动调优、MoE、Attention 和基于 Python 的内核编写。

AMD 已宣布对其 MI350 系列提供 FP6 和 FP4 支持,ROCm 7 也包含对这些高级数据类型的全面支持,如 FP8、FP6、FP4 和混合精度。

IT之家从发布会获悉,在性能方面,AMD 表示 ROCm 7 将推理作为重点,为 AI 工作负载带来了高达 3.5 倍的性能提升。

具体来看,相较于 ROCm 6,ROCm 7 的 Llama 3.1 70B 提升了 3.2 倍,Qwen2-72B 提升了 3.4 倍,DeepSeek R1 提升了 3.8 倍。

【来源:IT之家】

相关内容

热门资讯

十胜率(扑克时间软件)外挂透明... 十胜率(扑克时间软件)外挂透明挂辅助脚本(透视)大神讲解(有挂详细)-哔哩哔哩;(需添加指定薇757...
8玄学!吉祥麻将填大坑插件(辅... 8玄学!吉祥麻将填大坑插件(辅助挂)太坑了其实真的有挂(真的有挂)-哔哩哔哩是一款可以让一直输的玩家...
九个挂真的假的!德扑ai助手软... 德扑ai助手赢率提升策略‌;九个挂真的假的!德扑ai助手软件(智能机器人代理)透视辅助(有挂方针)-...
七个模拟器!wpk辅助器是真的... 七个模拟器!wpk辅助器是真的假的(线上实战)其实真的有挂(真的有挂)-哔哩哔哩;致您一封信;亲爱w...
“闽台同心”闽台渔业融合发展大... 6月13日,“闽台同心”闽台渔业融合发展大会在福州海峡国际会展中心106会议室举行。大会由福州市海洋...
第一软件(WPK脚本)外挂透明... 第一软件(WPK脚本)外挂透明挂辅助脚本(辅助挂)细节方法(果真有挂)-哔哩哔哩;免费WPK脚本平台...
四个器安装!德扑牌型胜率计算(... 1、四个器安装!德扑牌型胜率计算(牌型胜率)辅助透视(有挂教程)-哔哩哔哩2、进入游戏-大厅左侧-新...
第3个透明!we poke有挂... 第3个透明!we poke有挂(wepooke系统规律)软件透明挂(有挂实锤)-哔哩哔哩;精心打造了...
四外挂!雀神小程序输赢规律(透... 您好,雀神小程序输赢规律这款游戏可以开挂的,确实是有挂的,需要了解加微【439369440】很多玩家...
六个中牌率!用ai外挂打德州有... 六个中牌率!用ai外挂打德州有用(脚本)软件透明挂(有挂攻略)-哔哩哔哩;超受欢迎的德州稳赢小游戏,...