芯展速AI90固态硬盘显存化方案亮相：首Token延迟缩短至1/50_科技动态

创始人

2026-07-20 19:23:50

0次

IT之家 7 月 20 日消息，芯展速 (GenStorAIGE) 在 WAIC 2026 展出了其 AI90 软硬件一体化 AI 推理加速方案。

其将高性能 SSD 纳入 GPU 显存体系，让 KV Cache 卸载到更大容量的固态硬盘上，形成 HBM + DRAM + SSD 三级存储体系。

这一方案可将首 Token（词元）延迟从秒级降低至亚秒级，提速 50 倍；吞吐量提升 5.1 倍；显存节省 39%。结合智能 P2P 多卡互联技术，AI90 可让 8 卡 NVIDIA GeForce RTX 5090 集群推理加速可达 5.8 倍、支持 128K+ 上下文。

而为了满足 KV Cache 卸载带来的高写入负载，芯展速同步带来了 PT200Z AI SSD。其基于 pSLC 闪存介质，采用 PCIe Gen5 接口，DWPD 最高达 100，顺序读取 14.8GB/s、随机读取 3100KIOPS，读取时延 54μs、写入时延 10μs。

我来教大家辅助器脚本!大同麻将... 我来教大家辅助器脚本!大同麻将多功能辅助器脚本，大同麻将本来是有辅助器脚本我来教大家辅助器脚本!大同...

实操分享外挂攻略!丽水都莱多功... 实操分享外挂攻略!丽水都莱多功能外挂攻略，丽水都莱其实真的有外挂攻略1、玩家可以在丽水都莱透视最简单...

重大通报透视器软件!随便字牌多... 重大通报透视器软件!随便字牌多功能透视器软件，随便字牌竟然真的是有透视器软件随便字牌能透视中分为三种...

发现一款开挂插件!小甘麻将多功... 发现一款开挂插件!小甘麻将多功能开挂插件，小甘麻将都是是真的有开挂插件1、操作简单，无需小甘麻将手机...

教程辅助辅助器技巧!闲来麻将多... 教程辅助辅助器技巧!闲来麻将多功能辅助器技巧，闲来麻将果然真的有辅助器技巧1、每一步都需要思考，不同...

必备辅助推荐开挂攻略!微乐福建... 必备辅助推荐开挂攻略!微乐福建麻将多功能开挂攻略，微乐福建麻将一直真的有开挂攻略1、微乐福建麻将辅助...

一起来探讨辅助器插件!万顺苑多... 一起来探讨辅助器插件!万顺苑多功能辅助器插件，万顺苑原来真的是有辅助器插件1、完成万顺苑有辅助插件，...

一分钟揭秘辅助器攻略!一乐浙江... 一分钟揭秘辅助器攻略!一乐浙江多功能辅助器攻略，一乐浙江都是是有辅助器攻略一乐浙江脚本下载中分为三种...

推荐一款透视器教程!海迅麻将多... 推荐一款透视器教程!海迅麻将多功能透视器教程，海迅麻将好像是有透视器教程亲，关键说明，海迅麻将透视脚...

今日公布辅助app!重庆蛮籽麻... 今日公布辅助app!重庆蛮籽麻将多功能辅助app，重庆蛮籽麻将其实是真的有辅助app1、重庆蛮籽麻将...