AI 搜索

带引用 · 可溯源

先用站内已采集内容作答；站内不足时联网检索，每条结论都给出来源链接

范围：站内优先仅站内全网全网通道：bing

大家都在搜：vLLM8 alignment6 pretraining6 post-training5 training5 agent4 fine-tuning4 multi-agent4

AI 答案

资料有限基于 5 条来源 · 引用可点击溯源

现有资料不足以系统回答「pretraining（预训练）」这一宽泛主题，只能给出资料中与预训练相关的零散事实。 1. 预训练作为下游能力的初始化来源

通用机器人策略受益于大规模视觉预训练，但在接触密集的灵巧操作中往往表现不佳，因为力、柔顺性和初期滑移难以从图像中观测到1。
Spark-0 是一个空间对齐的视觉-触觉-语言-动作（VTLA）模型，在预训练期间由触觉手套导出的图像空间接触图，连同来自冻结的 3D 几何教师模型的特征，共同监督视觉 token，而这些目标在推理时被移除1。
该设计使单个检查点即可同时支持纯视觉部署和触觉条件化部署1。

2. 预训练视频生成器可被改造为感知器

Gen4P 表明，预训练的视频生成器可以被改造为前馈 4D 感知器，而无需迭代去噪3。
其做法是在单次编码器前向传播中处理干净的视频 latent，并通过轻量级交叉注意力解码器预测所请求的 4D 属性3。
此外，将预训练的视频深度 LoRA 作为冻结的几何先验引入，可在不增加额外可训练参数的情况下提升整体性能3。

3. 预训练期间「能力何时出现」的测量问题

发展性研究通常通过追踪模型何时开始生成正确的 token 来判断能力获得时间，但这一预测要经过 unembedding 矩阵（读出层），而该矩阵本身在预训练期间仍处于学习之中2。
模型的隐藏状态可以在其自身的读出层表达出任务信息之前就已编码该信息，因此从输出读取出的时间线会把「模型所编码的内容」与「读出层所表达的内容」混为一谈2。
为此该工作引入了参数轨迹交叉编码（parameter-trajectory crosscoding）来直接追踪读出层2。

4. 预训练知识的边界

资料提到，尽管大语言模型拥有广泛的预训练知识和强大的推理能力，但它们在实验设计任务中难以自适应地收集信息5。

说明：资料4讨论的是自动驾驶极限操控恢复的强化学习，未涉及预训练，故不纳入。若你需要的是「预训练范式/目标函数/数据配比/Scaling 规律」等系统性内容，现有资料不足以回答。

继续追问

Spark-0 的触觉预训练目标在推理时被移除，那触觉通路在部署阶段还保留吗？参数轨迹交叉编码（parameter-trajectory crosscoding）具体如何实现，能否用于追踪其他能力涌现？把预训练视频生成器改造成 4D 感知器，相比迭代去噪路线在精度和速度上有什么取舍？

参考来源

5 条

1站内Spark-0 用触觉预训练提升机器人灵巧操作通用机器人策略受益于大规模视觉预训练，但在接触密集的灵巧操作中往往表现不佳，因为力、柔顺性和初期滑移难以从图像中观测到。我们提出 Spark-0，一个空间对齐的视觉-触觉-语言-动作（VTLA）模型，以两种互补的方式利用触觉。在预训练期间，由触觉手套导出的图像空间接触图，连同来自冻结的 3D 几何教师模型的特征，共同监督视觉 token；这些目标在推理时被移除。与此同时，一条触觉通路编码区域力历史和 3D taxel 状态，以对动作专家进行条件化。因此，单个检查点即可同时支持纯视觉部署和触觉条件化部署。为扩展这一监督，我们构建了 HumanTouch，一Hugging Face Papershttps://huggingface.co/papers/2610.22342 2站内Learning to Read Out: Unembedding Dynamics in Language Model PretrainingarXiv:2610.21025v1 公告类型：新摘要：语言模型何时获得某项能力？发展性研究通常通过追踪模型何时开始生成正确的 token 来回答这一问题。但这一预测要经过 unembedding 矩阵，即读出层（readout），而该矩阵本身在预训练期间仍处于学习之中。我们表明，模型的隐藏状态可以在其自身的读出层表达出任务信息之前就已编码该信息，因此从输出读取出的时间线将模型所编码的内容与其读出层所表达的内容混为一谈。为了直接追踪读出层，我们引入了参数轨迹交叉编码（parameter-trajectory crosscoding），它为每个检查点上每arXiv cs.CLhttps://arxiv.org/abs/2610.21025 3站内Gen4P 用视频生成器实现单目4D感知我们提出 Gen4P，一个从单目视频中恢复 4D 几何与运动的统一框架。我们表明，预训练的视频生成器可以被改造为前馈 4D 感知器，而无需迭代去噪。基于按需查询（on-demand querying），Gen4P 在单次编码器前向传播中处理干净的视频 latent，并通过轻量级交叉注意力解码器预测所请求的 4D 属性。按需查询的表述方式支持灵活的空间采样，而我们提出的连续时间查询进一步提供了时间上的灵活性。为增强几何知识，我们提出一种直接的插件式方案，将预训练的视频深度 LoRA 作为冻结的几何先验引入，在不增加额外可训练参数的情况下提升整体性能。GenHugging Face Papershttps://huggingface.co/papers/2610.22371 4站内Race to Recovery: Designing Advanced Safety Systems for Autonomous Driving via Learning Autonomous RacingarXiv:2610.20873v1 公告类型：新摘要：因结冰、水滑或突然的紧急避让操作而在操控极限处失去控制的车辆，超出了电子稳定控制等量产安全系统的工作范围，这些系统侧重于防止失稳，而非从失稳中恢复。专家驾驶员在这些情况下通过漂移重新获得控制权。现有的自主恢复方法要么在理想化场景中验证，要么以经验性且不一致的方式定义“已恢复”状态，要么依赖离线规划的轨迹而非在线行动。我们针对这些空白，首先通过强化学习训练一个赛车策略，使其将漂移学习为一种时间最优的机动动作，然后通过以最小时间为奖励的持续训练将其适配到恢复任务。我们相对于一个基于相平面的稳定平衡点来arXiv cs.ROhttps://arxiv.org/abs/2610.20873 5站内Amortizing Sequential Experimental Design in Reasoning LLMsarXiv:2610.20832v1 公告类型：新摘要：尽管大语言模型（LLM）拥有广泛的预训练知识和强大的推理能力，但它们在实验设计任务中难以自适应地收集信息。我们研究如何通过使用信息增益奖励显式训练引导动作选择的推理，将序列贝叶斯实验设计（BED）摊销到 LLM 中。我们的方法独立于 LLM 自身的信念来指定实验生成模型，使我们能够在自行选择的模型下优化期望信息增益。我们考察了摊销的设计选择，包括替代性生成模型构建、奖励估计、假设空间指定、多步目标，以及相对于训练时和推理时 BED 基线的计算成本。在 Twenty Questions 上，所得策略arXiv cs.LGhttps://arxiv.org/abs/2610.20832

AI 答案正在检索与综合…

站内相关条目

5 条 · 点击可看原文全文与中文译文

返回信息流

具身

Spark-0 用触觉预训练提升机器人灵巧操作

Spark-0 是空间对齐的视觉-触觉-语言-动作模型，预训练时用触觉手套接触图与 3D 几何教师监督视觉 token，推理时可去掉；同时发布 1000 小时 HumanTouch 数据集与 SparkArena 基准。保留触觉监督使纯视觉成功率从 52.5% 升至 71.7%，说明触觉可作为可扩展的预训练监督信号。

具身智能·Hugging Face Papers·4 天前

#robotics

大模

Learning to Read Out: Unembedding Dynamics in Language Model Pretraining

论文提出参数轨迹交叉编码方法，仅用检查点权重追踪语言模型预训练中反嵌入矩阵（读出层）的演化。发现Pythia预训练0.4-1.1%处读出层重组，而隐藏状态早已编码任务信息，说明行为时间线可能只反映读出层学会表达的时刻，而非模型真正习得能力的时刻。

大模型·arXiv cs.CL·4 天前

#interpretability

行业

Gen4P 用视频生成器实现单目4D感知

Gen4P 提出统一框架，将预训练视频生成器改造为前馈式4D感知器，无需迭代去噪，单次编码即可从单目视频恢复4D几何与运动，并支持灵活时空采样。在3D点跟踪、视频深度和相机位姿估计上达到领先水平，展示了视频生成预训练用于统一4D感知的潜力。

行业落地·Hugging Face Papers·4 天前

#video-generation

具身

Race to Recovery: Designing Advanced Safety Systems for Autonomous Driving via Learning Autonomous Racing

该研究用强化学习先训练赛车漂移策略，再迁移到车辆失稳恢复任务，并定义基于相平面的稳定平衡态与 Gym-Khana 评测环境。在 294 个失控状态下恢复率较 Stanley 提升 186.8%，优于 NMPC 与从零训练策略，并在 1:10 F1TENTH 实车上验证，为自动驾驶极限安全系统提供新思路。

具身智能·arXiv cs.RO·4 天前

#autonomous-driving

大模

Amortizing Sequential Experimental Design in Reasoning LLMs

该论文研究如何将序贯贝叶斯实验设计（BED）摊销进推理型LLM，通过信息增益奖励显式训练引导动作选择的推理过程。在二十问任务上，所得策略以更低计算成本超越训练与推理时BED基线，并迁移至临床对话基准Medi-Q，表明信息收集可作为可泛化的推理技能被学习。

大模型·arXiv cs.LG·4 天前

#llm