芯展速AI90固态硬盘显存化方案亮相：首Token延迟缩短至1/50_科技动态

创始人

2026-07-20 19:23:50

0次

IT之家 7 月 20 日消息，芯展速 (GenStorAIGE) 在 WAIC 2026 展出了其 AI90 软硬件一体化 AI 推理加速方案。

其将高性能 SSD 纳入 GPU 显存体系，让 KV Cache 卸载到更大容量的固态硬盘上，形成 HBM + DRAM + SSD 三级存储体系。

这一方案可将首 Token（词元）延迟从秒级降低至亚秒级，提速 50 倍；吞吐量提升 5.1 倍；显存节省 39%。结合智能 P2P 多卡互联技术，AI90 可让 8 卡 NVIDIA GeForce RTX 5090 集群推理加速可达 5.8 倍、支持 128K+ 上下文。

而为了满足 KV Cache 卸载带来的高写入负载，芯展速同步带来了 PT200Z AI SSD。其基于 pSLC 闪存介质，采用 PCIe Gen5 接口，DWPD 最高达 100，顺序读取 14.8GB/s、随机读取 3100KIOPS，读取时延 54μs、写入时延 10μs。

思特威推出13MP及5MP手机... IT之家 8 月 13 日消息，思特威今日宣布推出两款消费电子应用 CMOS 图像传感器升级新品 —...

科创逐梦，向新而行！环球自然日... （来源：上观新闻）由国家自然博物馆、环球健康与教育基金会、上海大学共同主办的“环球自然日2026年...

BBC看不下去了文｜陆弃 8月13日，英国广播公司刊文讨论日本人工智能应用为何迟迟难以普及。按照经合组织此前公布的数...

新能源车智驾系统普及怎么影响购... 随着汽车产业向电动化与智能化深度融合，消费者在挑选车辆时的考量维度发生了显著变化。过去大家更关注发动...

荣耀终端申请基于波束数量的小区... 国家知识产权局信息显示，荣耀终端股份有限公司申请一项名为“一种通信方法、设备和系统”的专利，公开号C...

换电模式下用户和车企谁更划算？新能源汽车补能方式的多元化发展，使得车电分离方案逐渐成为市场焦点。对于消费者而言，选择电池租赁服务...

“三箭齐发”确认一个宇宙“天然... 科技日报记者张梦然天文学家利用3台不同波段的观测设备，在银河系天鹰座方向确认了一个神秘天体为宇宙...

京东方申请显示面板及显示装置专... 国家知识产权局信息显示，京东方科技集团股份有限公司、成都京东方光电科技有限公司、北京京东方技术开发有...

雷士照明与星网天合达成战略合作... 8月13日，国内照明行业头部品牌雷士照明与全球知名ICT+AIoT智慧空间解决方案提供商星网天合正式...

他为成都的天空织梦：低空经济，... 郭亮丨四川沃飞长空科技股份有限公司CEO兼首席科学家成都低空经济产业领军科创人才。深耕无人航空器与...