NVIDIA、AMD还在堆料!一家小公司用28nm+DDR4单卡跑7000亿大模型
创始人
2026-05-11 17:39:27
0

快科技5月11日消息,当英伟达、AMD还在不断堆高制程、堆砌HBM显存推出高端AI加速卡时,一家小公司却用老旧技术走出了不同路线。

中国台湾企业Skymizer推出HTX301 PCIe AI加速器,采用28nm芯片搭配LPDDR4/LPDDR5内存,单卡即可运行7000亿参数大语言模型。

HTX301单张PCIe卡集成6颗自研芯片协同工作,总内存容量最高可达384GB,整卡功耗仅为240W,全程未使用行业主流的HBM或 GDDR显存方案。

该加速器基于Skymizer HyperThought平台打造,搭载专为大语言模型工作负载设计的下一代LPU IP核,核心优化方向为大模型推理效率。

通过对权重和KV缓存采用专属高效压缩技术,HTX301的推理性能比开源框架llama.cpp 提升9%至17.8%,官方标称带宽可达100GB/s。

功耗对比方面,英伟达RTX PRO 6000 Blackwell 执行同类任务功耗约为600W,AMD Instinct MI350P功耗同样远高于该产品,均达到HTX301的两倍以上。

HTX301采用标准PCIe卡外形尺寸,可直接安装在普通风冷服务器中,无需对数据中心的电力和冷却系统进行任何改造。

该方案同时解决了云端部署的两大核心痛点,既避免了数据上传带来的隐私泄露风险,也实现了基础设施成本的可预测性。

目前HTX301所宣称的全部性能数据均来自Skymizer官方,尚未经第三方独立测试验证。

不过,Skymizer将于今年台北国际电脑展上首次提供实机演示,并开放给独立第三方机构对其性能参数进行全面验证。

相关内容

热门资讯

全域AI夜校,为城市发展蓄能 □ 本报记者 张宇熠 夜晚的常州,数据在屏幕后“狂奔”:在西太湖(常州)人工智能国际社区,青年创客围...
小米玄戒芯片新成员明天见!这次... 不久前,小米创办人,董事长兼CEO雷军发文确认“新一代玄戒芯片即将发布”。 现在,这款曝光已久的新一...
如何给机器人算“用工账” 作者| 王小娟 具身智能行业的竞争重点,正在从运动能力展示转向真实作业能力验证。 8月19日,20...
“要亲自来、亲眼看、亲身体会”... 会翻跟头的机器狗、会跳街舞的机器人、会做咖啡还能唠嗑的机器人“店员”……前不久,2026两岸青年峰会...
采购类目、对接频率创新高 羊城晚报讯 记者李焕坤报道:8月22日,第十二届华人华侨产业交易会暨2026亚太产业合作与出海博览会...
TGV——蓝思半年报里信息密度... 8月21日发布的半年报中,TGV 玻璃基板是 AI 算力侧最值得单独细读的一块。 门槛远不止"通孔"...
AI研学持续升温 专家提醒家长... 这个暑假,AI和科技主题的研学游成了研学市场的风口。越来越多的家长把研学课程当成了孩子的“科技启蒙课...
第十二届侨交会闭幕 采购类目、... 羊城晚报讯 记者李焕坤报道:8月22日,第十二届华人华侨产业交易会暨2026亚太产业合作与出海博览会...
6G全球竞速:谁将攥住下一代数... 中国工业报 耿鹏飞 谁能攥住下一代数字基建的全球话语权?一场横跨频谱、标准、产业、场景的6G全球竞速...
原创 成... 深夜的卧室,唯一的光源来自手机屏幕。不需要注册账号,不需要输入任何信息,轻轻一点就能进入一个内容无限...