芯展速AI90固态硬盘显存化方案亮相：首Token延迟缩短至1/50_科技动态

创始人

2026-07-20 19:23:50

0次

IT之家 7 月 20 日消息，芯展速 (GenStorAIGE) 在 WAIC 2026 展出了其 AI90 软硬件一体化 AI 推理加速方案。

其将高性能 SSD 纳入 GPU 显存体系，让 KV Cache 卸载到更大容量的固态硬盘上，形成 HBM + DRAM + SSD 三级存储体系。

这一方案可将首 Token（词元）延迟从秒级降低至亚秒级，提速 50 倍；吞吐量提升 5.1 倍；显存节省 39%。结合智能 P2P 多卡互联技术，AI90 可让 8 卡 NVIDIA GeForce RTX 5090 集群推理加速可达 5.8 倍、支持 128K+ 上下文。

而为了满足 KV Cache 卸载带来的高写入负载，芯展速同步带来了 PT200Z AI SSD。其基于 pSLC 闪存介质，采用 PCIe Gen5 接口，DWPD 最高达 100，顺序读取 14.8GB/s、随机读取 3100KIOPS，读取时延 54μs、写入时延 10μs。

Codex与Claude Co... 【CNMO科技消息】近日，一场围绕Claude Code与GPT的“跨厂商”技术互动在AI社区引发关...

华为终于听劝了！折叠屏笔记本要... 快科技8月10日消息，近日博主定焦数码曝光了一款小尺寸折叠屏笔记本，新品可能配备外屏，预计今年第三至...

2026年哈尔滨手机店有哪些？... 很多人来哈尔滨问我，想找正规靠谱的卖手机门店，要么怕买到翻新后封机，要么怕配件被调换，要么怕价格虚高...

振动盘非标供料：顺立自动化的十... 一、行业背景：精密制造自动化的共性瓶颈在电子制造、五金加工、汽车零部件、医疗器械乃至新能源动力电池...

破解采收用工难题大同迎来首款... 央广网大同8月10日消息（记者张晋鹏通讯员马静波）近日，山西大同云州区坨坊村黄花种植基地内，首款黄...

蓝橙科技-AI大数据获客系统功... 在AI大数据盛行的时代，利用大数据+AI技术能够帮助实现精准获客，助力企业销售管理数字化转型升级，降...

夏繁科技联盟“十五五”行动方案... 夏繁科技联盟“十五五”行动方案发布 8月8日，2026夏繁高地（马尔康）建设暨第二届中国阿坝・夏繁科...

2026长春反冲洗过滤器：技术... 长春作为东北老工业基地的重要城市，其工业体系涵盖汽车制造、农产品加工、生物医药等多个领域，这些行业的...

极氪7X充电时过热起火官方回... 快科技8月10日消息，昨晚，极氪汽车官方账号“极氪服务”就最新发生的一起极氪7X充电时过热事件进行回...

钟睒睒：电商是“板上钉钉”的中... 8月8日，农夫山泉创始人、董事长钟睒睒做客央视财经《对话》栏目。节目中，钟睒睒谈及“药泡杨梅”事件、...