llm 在生成 long cot 方面展现出惊人的能力，例如 o1 已能生成长度高达 100k tokens 的序列。然而，这也给 kv cache 的存储带来了严峻挑战。为应对这一难题，“hybrid model” 成为了一条备受关注的可行路径：它在标准 transformer 的 部分层中引入更高效的注意力机制 （如 rnn 或 sliding window attention），以替代原有的注意力层。近期的研究（如 minimax-01、gemma2 等）已经充分验证了这种混合模型的有效性，但目前依然需要从头训练，尚未出现可以直接轻量级迁移已经训练好的 dense transformer 模型到 hybrid model 的方案。
我们希望提出一种简洁高效的方法， 将已经预训练完成的 dense transformer 模型顺利转换为 hybrid models 。为此，我们提出了 lighttransfer，这一思路源于一个关键观察：现有模型中存在大量呈现 “lazy” 特性的冗余层 [1]。因此，一个直观的想法就是将这些冗余层替换为仅需常数大小 kv cache 的 streaming attention，从而无需维护完整的 kv cache，将 dense transformer 转变为更高效的 hybrid model。
图片来源：https://arxiv.org/pdf/2309.17453
lighttransfer-train
1) 方法
lighttransfer 的方法非常直接：我们先在训练集上跑一遍 benchmark，识别出最 “lazy”，也就是 lazy ratio 最高的 50% attention 层，然后将这些层替换为 streaming attention。lazy ratio 用来衡量模型在第 (i) 层的注意力分配：它统计了来自 query 对初始和最近 key 的注意力权重之和，数值越高就代表该层的注意力越集中在这些 key 上，也就越 lazy。lazy ratio 的具体定义如下：
其中：
qwq 中每层的 lazy ratio 分布如下：
2) 实验结果
我们的主要实验对象是 o1 类的长 cot 生成模型。由于 qwq 并未公开其训练数据，我们遵循 still [2] 的方案，使用与其完全相同的训练设置（包括数据集、训练参数以及以 qwen2.5-32b-instruct 作为起点），唯一的差别在于，我们将 50% 的层换成 streaming attention。这样就能在推理阶段显著缩减近一半的 kv cache。
从表中可以看出，lighttransfer 在 aime24 & 25 以及 mathoai 上的表现优于 qwq-still 和 o1-preview。
lighttransfer-test
1) motivation
对于另外一种更为主流的长上下文理解（long context understanding）任务而言，输入文本本身就非常冗长，因此在测试阶段可以对模型进行 即时（on-the-fly） 转换。
2) 方法
基于这一点，我们提出了 lighttransfer-test，使得模型在推理环节仅依赖 prefilling 的结果就能完成识别和转换。然而，在实际操作中，我们也面临了两个问题：
问题 1：与 flash attention 的不兼容
当前，flash attention 已成为标配，但它并不会显式计算并存储注意力权重 (attention weights)；因此，如果我们想要获得用于衡量 lazy ratio 的注意力信息，就必须重新计算注意力权重，这会带来不可忽视的额外开销。
凯发app安卓的解决方案：为避免重复计算，我们借鉴了 online softmax 的思路，利用 flash attention 在计算过程中生成的 lse（log-sum-exp）作为 lazy ratio 的分母。更值得注意的是，我们惊喜地发现分子的计算复杂度仅为 o (1)，而若重新计算则需要 o (seq_len)，因此这种方法有效地避免了大规模的重复开销。具体算法如下：
问题 2：prefilling 阶段的峰值内存
若等到 prefilling 结束后才根据各层的 lazy ratio 进行识别和转换，那么整个 prefilling 阶段所需的内存峰值并没有减少。
凯发app安卓的解决方案：为了解决这个问题，我们设计了一种基于优先队列的策略，保证在 prefilling 阶段，所需的内存峰值不会超过设定阈值（即 50% 的 full kv 50% 的 streaming kv）。具体地说，我们维护一个以 lazy ratio 为优先级的队列：在 prefilling 过程中，一旦队列中排队的层数超出预先设定的阈值（例如 50% 的网络层），我们会从队列中移除 lazy ratio 最高的层，并将其 kv cache 切换为 streaming 版本。这样就无需像 squeezeattention [3] 那样等到 prefilling 完成后才压缩 kv cache，从而有效避免了 prefilling 阶段峰值内存居高不下的问题。lighttransfer 具体做法如下图：
3) 实验结果
从表中可以看出，lighttransfer-test 在 longbench 上相较于其他层间 kv cache 压缩方法（如 minicache 和 squeezeattention）具有更好的表现。它在将近一半的 kv cache 被削减的情况下，四个模型的平均性能仅下降了 1.5%; 尤其是在拥有更多层数的 llama 3-70b 上。
[1] xiao et al. efficient streaming language models with attention sinks. iclr 2024.
[2] min ei tal. imitate, explore, and self-improve: a reproduction report on slow-thinking reasoning systems. arxiv 2024.
[3] wang ei al. squeezeattention: 2d management of kv-cache in llm inference via layer-wise optimal budget. iclr 2025.
| cilicili短视频安装 | 7天前 |
| 湖南卫视播出节目表 | |
| 十大闯关类手机游戏 | 5天前 |
| 天体舞全集在线播放 | |
| china中国女明星xxx | 8天前 |
| 游戏王独眼巨人2r1 | |
| 女社长汗湿丝袜在线播放 | 0天前 |
| 黑暗中的想象巴雷特变女动漫 | |
| 欧洲美女扒开乳罩玛丽莲梦露 | 9天前 |
| 在教室里被学长揉到高潮 | |
| tk女仆挠脚心 | 9天前 |
| 巴西熟女ass老妇pics | |
| 大师商场偷拍抄底1080p | 4天前 |
| 在楼道被躁得直流白浆的视频 | |
| 舍田ヘンリー塚本 | 4天前 |
| 寸止挑战圣诞特别篇游戏玩法 | |
| 公厕人形尿便器调教学校 | 6天前 |
| 杨超越27岁白色毛外衣引热议 | |
| 崩坏三漫画全集免费 | 2天前 |
| 调教虐帅军警俱乐部 | |