字节 Seed 团队今年 9 月底在预印本平台 arXiv 提交了一篇论文，谈到分块 KV 缓存压缩带来的相位敏感性，

　　模型通过分块 KV 缓存压缩以固定步幅将连续标记的窗口压缩为更少的缓存条目，能够减少长上下文推理的内存和注意力成本。

　　该团队发现使用这种压缩的模型中存在系统性不对称性：相同的信息在一个阶段很容易检索，但在另一个阶段很难检索。团队将这种检索性能的周期性变化称为相位敏感性。

　　在采用此类压缩的大型开放权重模型中，长上下文检索准确度在各个阶段之间可能相差高达 40 个百分点，从而揭示了平均基准分数可能掩盖的周期性弱点。

　　特别

　　无赖撞上没脸没皮的，以色列这回可摊上麻烦了！4.8万印度人找到新家了。印度劳工向内塔尼亚胡放话：以色列正合我们意，我们不挪窝了！

　　“我写的3本编程圣经都可以扔进垃圾桶了！” Kent Beck最新演讲：AI越是狂飙代码，工程师越得[*]踩刹车

　　真是把“贪”字刻脑门上了！男子花钱与陪酒的公主开房，一次不够要求再来一次，公主妥协答应后，男子又得寸进尺！