DeepSeek R1推理性能提升3.8倍,AMD发布下一代开源软件栈技术ROCm 7
创始人
2025-06-14 11:40:47
0

6 月 13 日消息,在今日凌晨的 AMD Advancing AI 2025 活动中,AMD 正式推出其下一代开源软件栈技术 ROCm 7,进一步加速 AI 与开发者生产力。

随着 ROCm 7 的发布,AMD 终于从其 ROCm 6 软件栈向前迈进,该软件栈在过去几年中 —— 尤其是在 AI 计算出现以来 —— 已经经历了多次更新。以下是 AMD 在 ROCm 7 中重点关注的一些功能:

最新算法与模型

用于扩展 AI 的高级功能

MI350 系列支持

集群管理

企业级功能

通过 ROCm,AMD 表示其正更加专注于其软件堆栈中日益增长的推理能力。ROCm 7 堆栈将包括增强型框架,如 vLLM v1、llm-d、SGLang,并专注于提供多种优化。即将到来的 ROCm 7 新内核和算法包括 GEMM 自动调优、MoE、Attention 和基于 Python 的内核编写。

AMD 已宣布对其 MI350 系列提供 FP6 和 FP4 支持,ROCm 7 也包含对这些高级数据类型的全面支持,如 FP8、FP6、FP4 和混合精度。

IT之家从发布会获悉,在性能方面,AMD 表示 ROCm 7 将推理作为重点,为 AI 工作负载带来了高达 3.5 倍的性能提升。

具体来看,相较于 ROCm 6,ROCm 7 的 Llama 3.1 70B 提升了 3.2 倍,Qwen2-72B 提升了 3.4 倍,DeepSeek R1 提升了 3.8 倍。

【来源:IT之家】

相关内容

热门资讯

AMD全新X100系列芯片发布... 7月24日消息,在Advancing AI 2026大会上,AMD正式推出锐龙AI嵌入式X100系列...
靠谱大容量TF卡推荐:三星T7... 三星T7 microSD TF卡:为影像与游戏而生的1TB可靠之选 当4K视频持续输出、Steam...
黄仁勋入驻X首条推文:英伟达等... IT之家 7 月 25 日消息,科技媒体 Tom's Hardware 今天(7 月 25 日)发布...
凝“新”聚力 暖“新”同行 关... 凝“新”聚力 暖“新”同行 关爱全市新就业群体倡议书 全市社会各界朋友们: 平凡耕耘,皆筑风华。以网...
SpaceX“星舰”实施第 1... 7 月 25 日消息,美国太空探索技术公司重型运载火箭“星舰”于美国中部时间 24 日下午从得克萨斯...
天正电气获得发明专利授权:“一... 证券之星消息,根据天眼查APP数据显示天正电气(605066)新获得一项发明专利授权,专利名为“一种...
原创 荣... 荣耀手机这两天在网上热度挺高的,主要有两个原因。首先是荣耀近日正式官宣了全新品牌图形标识「荣耀之环」...
国网新疆电力投运特高频局部放电... (来源:电能革新) 日前,国网新疆电力有限公司自主研发的特高频局部放电在线监测智能体投运。该智能体部...
图灵奖得主萨顿:当前大模型不具... 图灵奖得主理查德·萨顿(右二) “现在的大语言模型没有目标,也完全不具备真实体验。”7月24日下午,...
利元亨获得发明专利授权:“异质... 证券之星消息,根据天眼查APP数据显示利元亨(688499)新获得一项发明专利授权,专利名为“异质结...