用集合级强化学习训练模型生成多样化科研想法
研究提出文档驱动的想法生成任务,要求模型基于论文产出高质量且彼此不同的想法集合。方法采用集合级强化学习目标,在一次生成中写出K个结构化想法卡片,并按与先前想法的距离加权质量联合打分,促使新想法远离已有想法。8B模型在无污染基准上的创意效用超过Claude Opus 4.8与GPT-6 Astra,专家评估与后者相当,且想法可执行性未下降。
每日自动追踪全球权威信源,模型生成中文摘要与有效期判断,人工抽检把关。 不追热点,只留经得起推敲的那一部分。
AI 与可被 AI 赋能的行业方向,每个领域独立成脉
共 63 条符合条件
研究提出文档驱动的想法生成任务,要求模型基于论文产出高质量且彼此不同的想法集合。方法采用集合级强化学习目标,在一次生成中写出K个结构化想法卡片,并按与先前想法的距离加权质量联合打分,促使新想法远离已有想法。8B模型在无污染基准上的创意效用超过Claude Opus 4.8与GPT-6 Astra,专家评估与后者相当,且想法可执行性未下降。
Grid-Bench是一个可执行基准,用二维至四维网格上的八类操作测试LLM能否根据初始状态、规则和事件历史预测最终空间状态。结果显示历史越长准确率下降越明显,且单事件表现相近的模型在长序列上差异巨大,为空间推理评估提供了可验证的量化方法。
针对联合音视频生成模型在多事件、多层音频混合及非对称跨模态关系下评估失效的问题,提出以事件为中心的一致性评估框架,将音视频事件解耦并逐事件交叉验证,聚合为粗到细三级指标,并实例化为可训练奖励模型AVC-Reward,与人类判断对齐度达SOTA,还能作为在线强化学习信号提升生成一致性。
论文提出互补表征设计原则,将折线图与归一化延迟嵌入两种视图结合,分别保留绝对测量与时间结构,经视觉编码器融合进语言模型。在TSRBench上准确率从44.5%提升至53.2%,显著超越专用基线36.7%,为通用时序语言模型提供有效设计思路。
针对少步自回归视频生成中所有 token 都跑完最终去噪步的浪费问题,提出 Speculative Forcing 框架,将中间干净估计作为草稿,预测哪些 token 可提前接受并冻结,同时保留其 KV 缓存作为上下文。在短视频、长视频和世界生成任务上保持全步采样质量,LongLive 上每 token 约 1.7 步去噪、提速超 1.5 倍。
提出 OmniVerifier-C1,将传统二值视觉验证器改为自动分解复杂提示或规则并逐项打分的分级验证器,配合解耦强化学习训练,在文生图与 Maze、Sudoku 等规则化世界建模任务上优于二值验证器,为世界建模智能体提供更可靠的连续评判信号。
DK-VLM提出双核注意力机制,将3D几何位置而非重建特征直接注入注意力计算,并引入参考系组合监督训练模型跨视角更新空间判断。在六个空间基准上取得最高平均分,VSI-Bench达74.33,同时保持通用视频理解能力。
PathFM 用流匹配生成完整未来轨迹,而非仅预测边际分位数,从而刻画未来路径的依赖结构。通过蒸馏到一两步并共享历史注意力缓存,生成多条路径仅需一次分位数查询的时间,在 fev-bench、TIME 及新提出的 fps-bench 上表现有竞争力,并在混沌系统中保持长期变异性。
论文提出3DVerifierBench基准,覆盖10项任务,评估多模态模型对3D内容的验证与拒绝解释能力,发现最强模型GPT-6 Astra与人类仍有21.6个百分点差距;并构建含14,126条矛盾解释的训练数据管线,验证反馈可将候选选择成功率从26.7%提升至90.0%。
现有隐私基准多关注显式标识符或属性推断,忽略了孤立弱但联合可揭示隐私的准证据组。该工作提出 QuasiLeak-Bench,用逆向构建流水线生成可靠标注,评估检测器能否恢复完整准证据组并按披露策略标记违规。实验显示现有检测器迁移差、本地模型远落后于闭源模型,但微调 4B 模型可超越最强提示模型,表明任务可学习。
针对多奖励RL中GDPO将各奖励优势均匀铺满整条回复的问题,提出MRTPO:利用各验证器实际检查的信息,通过对比有无该验证器信息时策略的下一token分布,用逐token的Jensen-Shannon距离衡量相关性并重新分配优势,无需辅助模型或token级标注。在text-to-SQL、多约束指令跟随和工具调用上收敛更快、效果更好。
报道称AI实验室正从倒闭的初创公司收购数据用于模型训练,一位加密创业者通过出售已关停公司的代码库和用户数据获利约2.5万美元。这反映出高质量训练数据日益稀缺,催生了'死公司数据'这一新兴交易市场,值得关注数据来源合规与定价问题。
谷歌研究提出实例条件衰减时间尺度方法,为每个训练样本学习重要性分数,解决概念漂移下新旧数据相关性差异问题。在3900万张照片的十年基准上,相对准确率提升达15%,优于在线与持续学习。
Google Research 发布 VideoPrism,一个通用视频理解基础视觉编码器。它在 3600 万高质量视频-文本对和 5.82 亿带噪文本视频片段上预训练,采用两阶段训练策略,单一冻结模型即可在分类、定位、检索、描述、问答等任务上达到 SOTA,解决了视频基础模型难以覆盖多样视频数据的难题。
Google Research 提出 LLM 社交学习框架,让教师模型通过自然语言指令或示例向学生模型传授知识,无需共享私有数据,在垃圾短信检测、小学数学和问答任务上验证有效性,并给出隐私量化方法。
Google 提出 Chain-of-Table 框架,让 LLM 通过逐步生成表格操作(选列、聚合、排序等)迭代演化表格,形成可解释的推理链,解决表格结构难以被语言模型理解的问题,在 WikiTQ、TabFact、FeTaQA 上取得 SOTA。
Google Research 在 ICLR 2024 提出将图结构编码为文本以提升 LLM 图推理能力,并发布 GraphQA 基准。研究发现编码方式、任务类型和图结构会影响性能,选对编码方法可使 LLM 图任务表现提升高达 60%。
Google Research 提出 Cappy,一个仅 3.6 亿参数的轻量评分器,基于 RoBERTa 持续预训练。它接收指令与候选回答并输出 0-1 正确性分数,可独立完成分类任务,也可作为辅助组件提升多任务大模型表现。无需微调大模型、无需反向传播、无需访问其参数,即可实现下游监督,兼容闭源 WebAPI 模型,显著降低存储与显存开销。