Astera Labs推Leo X控制器:将KV Cache从加速器卸载到外部内存

发布时间:2026-09-17 01:54

  该系列芯片可与 Astera Labs 的 Scorpio 网络交换芯片配套使用,通过 PCIe 和平台专用协议实现 GPU 的横向扩展,

  Astera Labs 表示 Leo X 系列为 GPU 访问 KV Cache 提供了更低延迟、更高带宽的通道,能将首词元延迟缩短多达 62%、词元吞吐量提升多达 22%。

  特别

  离谱至极!男子醉驾开辅助驾驶在车上酣睡 还特意把110设为紧急联系人!被查后竟想以此自首减刑?法院直接驳回!

  美国忽悠瘸了全世界?中国造完004才回过味来:咱家的导弹无人机激光早能把航母摁在港口里打!

  蒋介石离世前对儿子吐露心声:当年从大陆撤退时,最该带走的并非金银财宝与亲信部队,而是留在南开校园里的他

排行

精选