NVIDIA、AMD还在堆料!一家小公司用28nm+DDR4单卡跑7000亿大模型
创始人
2026-05-11 17:39:27
0

快科技5月11日消息,当英伟达、AMD还在不断堆高制程、堆砌HBM显存推出高端AI加速卡时,一家小公司却用老旧技术走出了不同路线。

中国台湾企业Skymizer推出HTX301 PCIe AI加速器,采用28nm芯片搭配LPDDR4/LPDDR5内存,单卡即可运行7000亿参数大语言模型。

HTX301单张PCIe卡集成6颗自研芯片协同工作,总内存容量最高可达384GB,整卡功耗仅为240W,全程未使用行业主流的HBM或 GDDR显存方案。

该加速器基于Skymizer HyperThought平台打造,搭载专为大语言模型工作负载设计的下一代LPU IP核,核心优化方向为大模型推理效率。

通过对权重和KV缓存采用专属高效压缩技术,HTX301的推理性能比开源框架llama.cpp 提升9%至17.8%,官方标称带宽可达100GB/s。

功耗对比方面,英伟达RTX PRO 6000 Blackwell 执行同类任务功耗约为600W,AMD Instinct MI350P功耗同样远高于该产品,均达到HTX301的两倍以上。

HTX301采用标准PCIe卡外形尺寸,可直接安装在普通风冷服务器中,无需对数据中心的电力和冷却系统进行任何改造。

该方案同时解决了云端部署的两大核心痛点,既避免了数据上传带来的隐私泄露风险,也实现了基础设施成本的可预测性。

目前HTX301所宣称的全部性能数据均来自Skymizer官方,尚未经第三方独立测试验证。

不过,Skymizer将于今年台北国际电脑展上首次提供实机演示,并开放给独立第三方机构对其性能参数进行全面验证。

相关内容

热门资讯

深圳机器人公司,来到联合国 近日,联合国开源周(UN Open Source Week)在纽约联合国总部举行,来自120多个国家...
“健康九江”便民服务平台升级上... 大江新闻讯 记者 程曼华摄影报道:5月26日,记者从“健康九江”便民服务平台升级上线发布仪式上获悉,...
得力集团携手飞书:以 AI 原... 近日,得力集团飞书启动会暨签约仪式在得力集团总部举行。得力集团执行总裁陈雪强、数智中心总经理秦冲和飞...
2026世界人工智能大会首设O... 上海7月7日电 (记者 郑莹莹)上海市政府新闻办7日举行新闻发布会,介绍2026世界人工智能大会暨人...
人工智能大模型辅助决策,大有可... 7月6日,《北京日报》第十版理论周刊发表文章《人工智能大模型辅助决策大有可为》,作者为中国人民大学智...
打破传统创业高成本壁垒,锦上健... 从朝九晚五的"打工人"到自主掌控的"创业者",曾经看似遥远的身份跃迁,正在AI时代成为普通人触手可及...
微众银行申请联邦学习方法专利,... 国家知识产权局信息显示,深圳前海微众银行股份有限公司申请一项名为“联邦学习方法及程序产品”的专利,公...
从算力到安全,互联网大会锚定数... 2026 年作为“十五五”规划开局攻坚之年,第25届中国互联网大会以“智启新程・融创未来”为主题,于...
智能监控摄像头无线厂家梳理:适... 导语:据行业公开调研数据,2025年智能监控摄像头无线市场规模同比增长约12%,在智慧社区、养老场所...
Linux基金会走访中国AI和... 2026 年 4 月下旬,Linux 基金会全球人工智能首席技术官 Matt White 等人在北京...