AI 搜索

带引用 · 可溯源

先用站内已采集内容作答；站内不足时联网检索，每条结论都给出来源链接

大家都在搜：vLLM12 AbridgeKV 在 vLLM 中的实现改动涉及哪些模块？10 agent10 alignment10 fine-tuning10 multi-agent10 post-training10 pretraining10

AI 答案

资料有限基于 10 条来源 · 引用可点击溯源

现有资料不足以回答该问题。用户问题指向资料 8 中「重定位旋转位置索引」的具体实现方式及其与位置插值（PI）的区别，但资料 8 实际是《Wolof-Adapted Industry-Ready Open-Weight Language Models》，内容为沃洛夫语开源权重模型的指令微调、偏好对齐与模型合并，摘要中未出现任何关于位置编码、旋转位置索引、重定位或位置插值的描述8。其余资料同样不涉及该主题：1 为集合级强化学习生成科研想法，2 为洪水预报，3 为移动操作策略，4 为偏振导航，5 为 RLVR 答案格式，6 为线性注意力泰勒展开，7 为长程智能体上下文压缩，9 为上下文注入与长程可靠性，10 为医学报告 RAG 系统。因此无法给出「重定位旋转位置索引」的实现细节，也无法与 PI 做对比。可确认的部分：

资料 8 的主题是沃洛夫语适配的开源权重语言模型，覆盖 0.6B–14B 规模，采用指令微调、偏好对齐和模型合并，并在 63 个公开与内部任务上评估8。
资料 6 虽涉及注意力机制的线性化改造（泰勒级数展开、固定数量循环状态），但讨论的是注意力核展开而非位置编码方案6，不能作为回答依据。

建议补充检索原始论文或技术报告，确认「重定位旋转位置索引」的术语出处与公式定义。

继续追问

「重定位旋转位置索引」这一术语出自哪篇论文或哪个模型的官方文档？旋转位置编码（RoPE）的常见外推方案（如位置插值 PI、NTK 感知插值）在实现上有哪些差异？资料 [8] 的沃洛夫语适配流程中是否包含上下文长度扩展相关的训练阶段？

参考来源

10 条

AI 答案正在检索与综合…

站内相关条目

10 条 · 点击可看原文全文与中文译文

返回信息流

大模

用集合级强化学习训练模型生成多样化科研想法

研究提出文档驱动的想法生成任务，要求模型基于论文产出高质量且彼此不同的想法集合。方法采用集合级强化学习目标，在一次生成中写出K个结构化想法卡片，并按与先前想法的距离加权质量联合打分，促使新想法远离已有想法。8B模型在无污染基准上的创意效用超过Claude Opus 4.8与GPT-6 Astra，专家评估与后者相当，且想法可执行性未下降。

大模型·Hugging Face Papers·4 天前

#llm

行业

Using AI to expand global access to reliable flood forecasts

Google Research 在 Nature 发表论文，展示机器学习模型可在缺乏水文数据的流域实现全球洪水预报，将可靠预报期从零延长至平均五天，非洲和亚洲的预报精度接近欧洲水平，并支撑 Flood Hub 在 80 多国提供提前七天实时河流预警。

行业落地·Google AI Blog·5 天前

#flood-forecasting

具身

MoCaP: Mobile Code-as-Policies for Zero-Shot Mobile Manipulation from Passive Human Videos

MoCaP 提出一种智能体框架，将被动拍摄的人类日常活动视频转化为移动操作策略的指导，通过提取空间记忆与交互准备线索，结合闭环代码即策略协调规划与工具原语，在真实移动机械臂上实现零样本移动操作，两项任务成功率均达 80%，显著优于现有方法。

具身智能·arXiv cs.RO·5 天前

#robotics

具身

Navigation by Skylight Polarization via Rayleigh Model Optimization on a Road Vehicle

该论文提出一种基于天空偏振光的车辆绝对航向估计方法，通过全局优化 Rayleigh 天空模型与分焦平面偏振相机测量值匹配，结合针孔相机模型与太阳位置算法合成偏振角分布，并用偏振度加权 RMSE 抑制云层、建筑等遮挡干扰。在城市道路实验中偏航角 RMS 误差低于 1 度，较现有方法降低最多 87%，为 GNSS/磁力/惯性失效场景提供可靠导航备份。

具身智能·arXiv cs.RO·5 天前

#polarization

大模

Same Answer, New Box: How Much of RLVR's Out-of-Domain Gain Is Answer Format?

研究指出，RLVR 在域外任务（如数学训练后 MMLU 提升）上的增益很大程度是答案格式变化而非能力提升。用公开答案提取器评分时，82% 的域外选择题增益在改用能读取文本或 \boxed{} 的提取器后消失：RL 只是把答案移进提取器优先查找的框里。该发现提醒评测结果依赖提取器，可用二次评分低成本验证。

大模型·arXiv cs.LG·5 天前

#rlvr

大模

Expanding Attention: A Taylor-Series Route to Linear-Time Transformers with a Fixed Number of Recurrent States

该论文将注意力指数核展开为截断泰勒级数，把因果历史压缩为固定数量的循环状态，实现线性时间注意力。在 N=8192 时提速 20.8 倍，解码延迟恒定，精度随阶数指数提升但成本组合增长，最优为二阶 n=3。

大模型·arXiv cs.LG·5 天前

#attention

Prune the Summary, Not the History: Source-Judged Compaction for Long-Horizon Agents

论文指出长程LLM智能体的上下文压缩摘要会混入压缩器自身的推理，智能体无法区分事实与臆测，83%失败源于执行了无环境依据的摘要条目。作者提出免训练的Source-Judged Compaction（SJC），用非生成式判定模型Jev为每条摘要打分并剔除无来源条目，在AppWorld和OfficeBench上提升2.1%-8.9%可靠性且不增加token消耗。

Agent·arXiv cs.CL·5 天前

#agent

大模

Wolof-Adapted Industry-Ready Open-Weight Language Models

该论文发布0.6B-14B开源权重模型，通过指令微调、偏好对齐与模型融合适配沃洛夫语（2300万使用者），在63项任务上表现良好，8B/14B模型可与更大商业系统竞争，已在客服试点并公开于Hugging Face。

大模型·arXiv cs.CL·5 天前

#llm

大模

Context Injection and Long-Horizon Reliability: Separating Duplicate Recognition, Local Processing, and Counter Tracking

该论文将长程任务失败拆解为三个可逐步评分的组件：重复识别、局部处理和计数器追踪，在400步账本任务中测试Qwen3-8B。发现重复识别错误在后期上升，而插入无关内容会使计数器在全部种子中失败，但外部精确状态提醒可在一两步内纠正。揭示了聚合错误分类会掩盖组件差异。

大模型·arXiv cs.CL·5 天前

#llm

行业

MeddeX: A Retrieval-Augmented LLaMA-3 System with Gemini Vision for Evidence-Backed Medical Report Analysis

MeddeX 是一个医疗报告分析系统，将 QLoRA 微调的 LLaMA-3 8B 与 RAG 及 Gemini Vision 多模态层结合，支持文本 PDF、扫描件和放射影像，提供有证据支撑的摘要、报告内检索与纵向对比。相比基线模型 ROUGE 与 BLEU 显著提升，展示领域微调在临床辅助决策中的实用价值。

行业落地·arXiv cs.CL·5 天前

#rag