AI 搜索

带引用 · 可溯源

先用站内已采集内容作答；站内不足时联网检索，每条结论都给出来源链接

大家都在搜：vLLM12 agent10 alignment10 fine-tuning10 multi-agent10 post-training10 pretraining10 training10

AI 答案

资料有限基于 1 条来源 · 引用可点击溯源

现有资料不足以回答该问题。资料1只是 SoftCache 论文的摘要片段，内容集中在扩散/流模型免训练缓存机制本身（动态缓存、陈旧度信号、硬缓存与软缓存、余量 headroom 预测复用误差），并未提及任何与量化、prefix caching 或其他推理优化技术的组合实验。资料中能确认的相关信息仅有：

该方法针对扩散模型与流模型的迭代前向传播成本问题，采用免训练缓存复用激活值来加速1；
动态缓存以廉价探针累积为陈旧度信号，越过阈值即重新评估，属于“硬缓存”1；
SoftCache 提出“软缓存”，利用信号低于阈值的余量（headroom）预测复用引入的误差1。

摘要在此处截断，未涉及实验设置、对比基线或与其他优化技术的叠加评估，因此无法判断论文是否报告了量化、prefix caching 等的组合实验。

继续追问

SoftCache 的软缓存具体如何利用 headroom 调节步长？该论文的实验部分对比了哪些缓存基线方法？扩散模型推理加速中，缓存复用与量化是否可以叠加使用？

参考来源

1 条

1站内SoftCache让扩散模型缓存步长自适应扩散模型与流模型通过迭代步骤生成样本，每一步都需要对大型网络做一次完整的前向传播，而这次前向传播主导了生成成本。免训练缓存通过复用近期评估中的激活值而非重新计算来加速这一过程。动态缓存方法将网络输入的一个廉价探针累积为陈旧度信号，当该信号越过阈值时便执行一次新的评估，以此决定何时刷新。这类方法执行的是硬缓存：信号是刷新与复用之间的二值开关，且每一步——无论新算还是缓存——都按规定的步长推进。我们观察到，该信号所承载的信息远不止这个开关。它低于阈值的幅度，即其余量（headroom），可以预测复用所引入的误差。我们提出 SoftCache，执行软缓存：不再Hugging Face Papershttps://huggingface.co/papers/2610.22369

AI 答案正在检索与综合…

站内相关条目

1 条 · 点击可看原文全文与中文译文

返回信息流

部署

SoftCache让扩散模型缓存步长自适应

SoftCache是一种免训练缓存方法，利用动态缓存中陈旧度信号的余量预测复用误差，将二值刷新开关改为自适应步长：余量大时跳过多个调度节点，临近刷新时步长收缩回原值。在FLUX图像及HunyuanVideo、Wan2.1视频上实现3.5至6.9倍加速，四项保真度指标全面领先基线。

部署与算力·Hugging Face Papers·4 天前

#diffusion