8月17日消息,根据半导体研究机构SemiAnalysis 一份研究报告所述,谷歌(Google)与AMD 携手合作,共同开发第十代TPU其中一款。预计这款AI加速器将朝向结合谷歌的TPU与其自研的CPU核心共同封装设计,锁定强化学习和其他需要通用计算的工作负载。
“市场传言指出,谷歌正与AMD 就一项第10 代TPU 专案进行合作。”SemiAnalysis在研究报告中写到,“AMD 的参与,将是该公司首次真正投入一项客制化AI ASIC 专案。”
SemiAnalysis 的分析师认为,AMD 拥有强大的IP,尤其是在先进封装和SoIC 方面;此外,其CPU IP 或许同样具备吸引力,考量到谷歌及其客户推动将CPU 核心整合进TPU 的同一封装内,以应对强化学习工作负载。
虽然传统的大型语言模型训练仍压倒性地偏重于AI 加速器,但针对推理型和代理式模型所进行的强化学习,可能在加速器运算周边需要相当可观的通用计算资源。
谷歌其实早已开始在推理导向TPU 周边增加CPU 资源,最新的TPU 8i 系统用于推理和强化学习工作负载,配置比例约为每2颗TPU搭配1颗谷歌Axion CPU;相比之下,基于第7代TPU的服务器则是每4颗TPU搭配1颗 Xeon “Emerald Rapid”处理器。
SemiAnalysis 分析认为,如果未来某些场景需要接近1:1的AI加速器和CPU配置,把CPU 核心直接放进TPU封装内,可能是更合理的下一步。此举可缩短通用运算和张量运算之间的距离,提升效能表现并降低功耗,这正是谷歌为什么要找AMD合作的关键原因。
AMD早已具备开发此类数据中心等级芯片的设计经验,即Instinct MI300A,这款产品同时封装x86 和加速器2 种chiplet。
因此,谷歌的第10 代TPU,可能会存在将谷歌自研的TPU chiplet与AMD 的CPU和HBM,结合在一个由AMD所打造的紧密整合封装中的版本。
不过,相关内容目前仍属市场传闻,SemiAnalysis 也明确表示其分析可能有误,AMD 参与的实际形式还不清楚。
如果分析属实,那么真正重要的发展或许不在于AMD 协助谷歌打造新产品,而是谷歌考虑为其TPU v10 系列打造一款全新、偏重CPU 的新芯片,针对强化学习和代理式工作负载进行优化。