用集合级强化学习训练模型生成多样化科研想法
研究提出文档驱动的想法生成任务,要求模型基于论文产出高质量且彼此不同的想法集合。方法采用集合级强化学习目标,在一次生成中写出K个结构化想法卡片,并按与先前想法的距离加权质量联合打分,促使新想法远离已有想法。8B模型在无污染基准上的创意效用超过Claude Opus 4.8与GPT-6 Astra,专家评估与后者相当,且想法可执行性未下降。
先用站内已采集内容作答;站内不足时联网检索,每条结论都给出来源链接
10 条 · 点击可看原文全文与中文译文
研究提出文档驱动的想法生成任务,要求模型基于论文产出高质量且彼此不同的想法集合。方法采用集合级强化学习目标,在一次生成中写出K个结构化想法卡片,并按与先前想法的距离加权质量联合打分,促使新想法远离已有想法。8B模型在无污染基准上的创意效用超过Claude Opus 4.8与GPT-6 Astra,专家评估与后者相当,且想法可执行性未下降。
Google Research 在 Nature 发表论文,展示机器学习模型可在缺乏水文数据的流域实现全球洪水预报,将可靠预报期从零延长至平均五天,非洲和亚洲的预报精度接近欧洲水平,并支撑 Flood Hub 在 80 多国提供提前七天实时河流预警。
MoCaP 提出一种智能体框架,将被动拍摄的人类日常活动视频转化为移动操作策略的指导,通过提取空间记忆与交互准备线索,结合闭环代码即策略协调规划与工具原语,在真实移动机械臂上实现零样本移动操作,两项任务成功率均达 80%,显著优于现有方法。
该论文提出一种基于天空偏振光的车辆绝对航向估计方法,通过全局优化 Rayleigh 天空模型与分焦平面偏振相机测量值匹配,结合针孔相机模型与太阳位置算法合成偏振角分布,并用偏振度加权 RMSE 抑制云层、建筑等遮挡干扰。在城市道路实验中偏航角 RMS 误差低于 1 度,较现有方法降低最多 87%,为 GNSS/磁力/惯性失效场景提供可靠导航备份。
研究指出,RLVR 在域外任务(如数学训练后 MMLU 提升)上的增益很大程度是答案格式变化而非能力提升。用公开答案提取器评分时,82% 的域外选择题增益在改用能读取文本或 \boxed{} 的提取器后消失:RL 只是把答案移进提取器优先查找的框里。该发现提醒评测结果依赖提取器,可用二次评分低成本验证。
该论文将注意力指数核展开为截断泰勒级数,把因果历史压缩为固定数量的循环状态,实现线性时间注意力。在 N=8192 时提速 20.8 倍,解码延迟恒定,精度随阶数指数提升但成本组合增长,最优为二阶 n=3。
论文指出长程LLM智能体的上下文压缩摘要会混入压缩器自身的推理,智能体无法区分事实与臆测,83%失败源于执行了无环境依据的摘要条目。作者提出免训练的Source-Judged Compaction(SJC),用非生成式判定模型Jev为每条摘要打分并剔除无来源条目,在AppWorld和OfficeBench上提升2.1%-8.9%可靠性且不增加token消耗。
该论文发布0.6B-14B开源权重模型,通过指令微调、偏好对齐与模型融合适配沃洛夫语(2300万使用者),在63项任务上表现良好,8B/14B模型可与更大商业系统竞争,已在客服试点并公开于Hugging Face。
该论文将长程任务失败拆解为三个可逐步评分的组件:重复识别、局部处理和计数器追踪,在400步账本任务中测试Qwen3-8B。发现重复识别错误在后期上升,而插入无关内容会使计数器在全部种子中失败,但外部精确状态提醒可在一两步内纠正。揭示了聚合错误分类会掩盖组件差异。
MeddeX 是一个医疗报告分析系统,将 QLoRA 微调的 LLaMA-3 8B 与 RAG 及 Gemini Vision 多模态层结合,支持文本 PDF、扫描件和放射影像,提供有证据支撑的摘要、报告内检索与纵向对比。相比基线模型 ROUGE 与 BLEU 显著提升,展示领域微调在临床辅助决策中的实用价值。