芯展速AI90固态硬盘显存化方案亮相：首Token延迟缩短至1/50_科技动态

创始人

2026-07-20 19:23:50

0次

IT之家 7 月 20 日消息，芯展速 (GenStorAIGE) 在 WAIC 2026 展出了其 AI90 软硬件一体化 AI 推理加速方案。

其将高性能 SSD 纳入 GPU 显存体系，让 KV Cache 卸载到更大容量的固态硬盘上，形成 HBM + DRAM + SSD 三级存储体系。

这一方案可将首 Token（词元）延迟从秒级降低至亚秒级，提速 50 倍；吞吐量提升 5.1 倍；显存节省 39%。结合智能 P2P 多卡互联技术，AI90 可让 8 卡 NVIDIA GeForce RTX 5090 集群推理加速可达 5.8 倍、支持 128K+ 上下文。

而为了满足 KV Cache 卸载带来的高写入负载，芯展速同步带来了 PT200Z AI SSD。其基于 pSLC 闪存介质，采用 PCIe Gen5 接口，DWPD 最高达 100，顺序读取 14.8GB/s、随机读取 3100KIOPS，读取时延 54μs、写入时延 10μs。

挑辅具、喝咖啡、看表演——20... 本报（chinatimes.net.cn）记者石文君北京摄影报道 9月3日，2026中国国际福祉博...

合肥数字经济产业“新地标”来了 9月3日，记者从蜀山高科获悉，高科·模数科技港整体建设进入收尾阶段，有望于10月份完工。该项目聚...

V申请显示设备及流媒体视频数据... 国家知识产权局信息显示，V荷兰私营有限责任公司申请一项名为“一种显示设备及流媒体视频数据的解码方法”...

校长奖章｜坚守初心砥砺前行，追... 在粉末冶金的微观世界里她以七年光阴丈量科研的厚度在钛合金应用的国家需求中她用硬核成果书写青年的...

IDC全球双第一之后，石头科技... 9月3日，柏林国际电子消费品展览会（IFA 2026）正式拉开帷幕，石头科技携多场景智能清洁矩阵亮相...

GPT-6引爆AI应用！新行情... （来源：上市之家） “欢迎来到AGI时代” 北京时间9月4日凌晨，OpenAI正式发布新一代旗舰模型...

丁军：让AI从工具变为生产力 ... 天津北方网讯：港航产业的高质量发展离不开全链条、一体化的协同赋能，依托AI技术打通链路壁垒，提升全域...

互联网大厂密集加码，AI办公成... 腾讯WorkBuddy开放平台正式发布、字节跳动推出“豆包工作”、阿里“千问办公”开启公测、百度“库...

凝练人工智能相关科学问题，广州... 近日，在广东省人才工作局、广州市人才工作局和南沙开发区人才发展局指导下，香港科技大学（广州）承办的广...

雪域上永不撤离的智能“哨兵” 高寒缺氧、荒无人烟的雪域高原上，高原铁路穿越冻土荒漠，数百公里线路人迹罕至。一台台智能机器人穿梭在幽...