芯展速AI90固态硬盘显存化方案亮相：首Token延迟缩短至1/50_科技动态

创始人

2026-07-20 19:23:50

0次

IT之家 7 月 20 日消息，芯展速 (GenStorAIGE) 在 WAIC 2026 展出了其 AI90 软硬件一体化 AI 推理加速方案。

其将高性能 SSD 纳入 GPU 显存体系，让 KV Cache 卸载到更大容量的固态硬盘上，形成 HBM + DRAM + SSD 三级存储体系。

这一方案可将首 Token（词元）延迟从秒级降低至亚秒级，提速 50 倍；吞吐量提升 5.1 倍；显存节省 39%。结合智能 P2P 多卡互联技术，AI90 可让 8 卡 NVIDIA GeForce RTX 5090 集群推理加速可达 5.8 倍、支持 128K+ 上下文。

而为了满足 KV Cache 卸载带来的高写入负载，芯展速同步带来了 PT200Z AI SSD。其基于 pSLC 闪存介质，采用 PCIe Gen5 接口，DWPD 最高达 100，顺序读取 14.8GB/s、随机读取 3100KIOPS，读取时延 54μs、写入时延 10μs。

洪水预报，是如何实现的？进入汛期以来，水利部门累计制作发布50.3万站次洪水预报洪水预报，是如何实现的？升级发布洪水黄色...

我国人形机器人整机产品超全球半... 具身智能机器人国务院新闻办公室7月20日举行新闻发布会，工业和信息化部相关负责人介绍2026年上半...

《济南新闻》丨加速落地重大科创... 近年来，济南聚焦创新策源能力提升，持续加强战略科技力量布局，加速落地重大科创平台，梯次构建国家、省、...

什么是高分子复合树脂玻璃钢电缆... 在电厂、变电站等电力设施以及铁路隧道等基建项目中，电缆沟盖板作为关键的防护构件，其性能直接影响着线路...

AI重塑投资生态私募证券行业... 央广网上海7月20日消息（记者冯丽）当前，人工智能正深刻重构资产管理行业的底层逻辑与运行生态。7月...

米哈游砸1.5亿就做了款壁纸软... 去年11月，米哈游注册了稻海桑田科技有限公司，并在今年3月将注册资本从1000万抬高到了1.5亿。就...

AI驱动下的数据中心瓶颈：供应... 人工智能对算力的旺盛需求正在推动数据中心建设热潮，科技巨头们全力支持在美国建设更多数据中心，然而整个...

展现教育AI创新实力，猿辅导集... 文|蓝鲸新闻作为全球人工智能领域的顶级盛会，2026世界人工智能大会（WAIC）于7月在上海盛大...

奥海科技获得实用新型专利授权：... 证券之星消息，根据天眼查APP数据显示奥海科技（002993）新获得一项实用新型专利授权，专利名为“...

非计算机专业学生学AI，能做什... 在AI的浪潮下，非计算机专业的学生经常会问自己：“我不会写代码，学AI能做什么？”在很多人看来，AI...