人工智能借助 Micron 等公司的芯片实现记忆升级
创始人
2025-04-21 22:01:06
0

昨天有新闻爆出,Micron Technology正在推动一项新的业务焦点——“云内存业务部”,该部门将打造一种称为 HBM 芯片(高带宽内存芯片)的产品。

HBM 芯片是一种 3-D 堆叠的 SDRAM 微处理器,传统上用于高性能硬件配置。在模型设计领域,我们看到大语言模型获得了更多内存容量,并且能够更充分地利用存储在内存中的上下文数据。

所以,发生这场硬件革命是合乎逻辑的。更有意思的是,参与者究竟有哪些。

HBM 市场

业内人士指出,Micron 是全球领先的 HBM 芯片供应商之一,而 Samsung 与 SK Hynix 也是主要玩家。

那么,究竟是谁在制造这些芯片?

以 Samsung 为例。业内消息显示,Samsung 正在与其竞争对手代工伙伴 TSMC合作,共同开发 HBM 芯片。

我们已经多次看到,TSMC 作为代工厂在市场中占据主导地位。其他公司利用 TSMC 提供的原始制造能力,并在 TSMC 产能基础上发展各自的方案。这反过来引发了从汽车芯片短缺,到近期与出口管制相关的一些棘手地缘政治问题。看起来,如果全球有十几家代工厂,世界局势可能会好很多。

不过,在制造这些高设计芯片的过程中,Samsung 和 TSMC 是否在与 Nvidia进行竞争?

其实并非如此。

其他业内报道显示,Nvidia 原本计划从 Samsung 采购这些芯片,但供应商未能达到 Nvidia 的要求。

3 月 20 日的一份新闻稿中,Nvidia CEO Jensen Huang表示,Samsung “有着举足轻重的作用”,但同时提到该公司尚未正式采购 Samsung 的 HBM3E 芯片。

HBM 芯片:内部构造

首先,HBM 芯片是一种 3-D 堆叠的 DRAM芯片。

该内存单元紧邻 CPUGPU放置,以克服延迟问题,并实现低功耗下的高带宽。

我向 ChatGPT进一步询问了这些芯片的规格,它给出了以下信息:

带宽:每个堆叠 819 GB 每秒

速度:每个引脚 6.4 GB

容量:每个堆叠最高可达 64 GB

散热:更高效能

应用场景:人工智能HPC、GPU (在此语境下,我们主要讨论的是用于 AI 应用)

ChatGPT 还提供了一张有趣的图示,将 HBM 的构造与一种称为 GDDR6 的游戏芯片进行了对比,后者价格更低且更广泛可用。

你可以从这类公开资源中获得更多信息,了解 HBM 如何按照特定需求进行工程设计。

市场影响

让我们简要看一下这一科技市场的角落,为企业高管或其他关心此领域的人提供一些背景信息。

首先,Nvidia 在过去一年内从历史高点下跌约 40%,最近的交易周期中股价一直徘徊在 100 美元左右,这在表面上归因于美国的出口管制。Huang 及其团队宣称,Nvidia 将因新规定损失 55 亿美元,这一说法近期引起了广泛关注。接着是 Micron,目前股价约 70 美元,约为历史高点的一半,自冬季以来大幅回落。至于 Samsung,其股票在短时间内下跌了约 8%。AMD等公司同样表现不佳。

正如 AJ Bell 投资总监 Russ Mould 所言(由 Elsa Ohlen 为 Barron’s 报道),“来自 AI 芯片冠军 Nvidia 的警告称,由于美国对向中国出口管制的收紧,公司将面临 55 亿美元的损失,这标志着华盛顿北京之间不断升级的针锋相对进入了新篇章。”

这就是当前一些引人注目的全新硬件发展动态。从大语言模型的角度来看,背景则是具备持久记忆功能的模型进步。比如,我曾谈论过使用 Sesame 的 AI 聊天伙伴,并观察到“ Maya”似乎在好日子里能记住我作为回访用户的名字。连同链式思维,记忆能力正为我们那些充满活力、备受期待的神经网络朋友和邻居打造更多可能性。

相关内容

热门资讯

破解碎片化AI场景难题,萤石:... AI大模型时代,所有的行业都要被重构。从2023年到今天,我们经历了“百模大战”,但更重要的是,在喧...
英维克获得实用新型专利授权:“... 证券之星消息,根据天眼查APP数据显示英维克(002837)新获得一项实用新型专利授权,专利名为“一...
AI手机,需“断舍离” 文 | 摩根商研所 AI大火第三年,手机厂商们已经趟进了深水区。 近日,华为在HDC2025上发布...
马斯克公布脑机接口重大进展 产... 当地时间6月27日,马斯克旗下脑机接口公司Neuralink发布了一段长达一小时的视频,展示了他们最...
人形机器人,热中“冷思考” 对话人: 周珊珊 本报评论员 朱珉迕 解放日报评论员 朱浙萍 浙江日报评论员 周珊珊:前不久,全球首...
AI同城化 资源大融通 2月27日,中智协带队中山40家企业走访深圳人工智能企业。受访者供图 中智协执行会长范丛明参加AI...
四海传福丨二十五载加“数”跑,... 2025年是“数字福建”建设25周年 推进“数字中国”建设10周年 二十五年来 福建以“数字”之力 ...
门头沟区领导到京东方技术创新中... 6月27日,门头沟区委副书记、区长吕晨飞带队到京东方技术创新中心调研,察看京东方创新显示终端与软硬件...
科研成果、赛事获奖十余项!哈工... 在哈尔滨工程大学求学四年,她连续3次获国家级奖学金,获全国大学生数学建模联赛一等奖、全国大学生节能减...
海南30家优质中小企业亮相中博... 海南日报全媒体记者邵长春 在第二十届中国国际中小企业博览会(以下简称中博会)海南馆入口处,一架身披海...