StepSafe: Learning Timely Intervention with Context-Aware Safety Reasoning
StepSafe 提出 ASPO 训练框架,将智能体安全护栏从轨迹级事后评估转为步级实时干预,通过前缀阶段对齐与自适应反馈自蒸馏,让模型判断风险何时累积到足以介入。在五个智能体安全基准上,4B 模型取得开源护栏最优的 Youden's J 53.0,兼顾安全与效用。
每日自动追踪全球权威信源,模型生成中文摘要与有效期判断,人工抽检把关。 不追热点,只留经得起推敲的那一部分。
AI 与可被 AI 赋能的行业方向,每个领域独立成脉
来自全球权威信源,模型摘要 + 人工抽检
StepSafe 提出 ASPO 训练框架,将智能体安全护栏从轨迹级事后评估转为步级实时干预,通过前缀阶段对齐与自适应反馈自蒸馏,让模型判断风险何时累积到足以介入。在五个智能体安全基准上,4B 模型取得开源护栏最优的 Youden's J 53.0,兼顾安全与效用。
LEV 是一种循环决策模型,通过重复运行层而非生成 token 来加深推理,单次前向即可对选项打分。同一权重下精度随循环深度提升,2.6B 模型在 JevBench 上从深度1的63.2%升至深度4的76.2%,并用小型停止器按需分配深度,节省15%-24%算力。
MAI-Gym 是面向 GUI 智能体的开源一体化平台,统一移动端、桌面与网页环境的评测、数据采集和在线 RL 训练,支持万级并行环境与自动合成可验证任务。其训练的 9B 模型在 MobileWorld 与 OSWorld 上达开源同规模最优,且模拟应用训练可迁移到真机,显著降低 GUI 智能体训练成本。
RAC 提出一种与框架无关的工程智能体契约,将语义决策与机械推导分离:智能体只决定工件应满足的关系,具体几何/时序后果由专用工具推导并独立验证。在 PCB 布局布线、作业车间调度和嵌入式代码任务上,干净通过率显著优于基线,为约束驱动的工程智能体提供更可靠的行动与反馈层设计。
SkillNEO 提出非精英式进化优化方法,用于 LLM 智能体的技能迭代:允许低分版本继续被编辑,通过对比相关版本在同一任务上的表现,识别需保留的有效步骤与待修复的失败点,并可回溯修订旧版本。在 86 个 SkillsBench 任务上,将 GPT-5.4 Mini 平均奖励从 49.1% 提升至 66.4%,且生成的技能可迁移提升更强模型。
该论文用算法信息论形式化定义组合结构:当部分合在一起时显现出单独建模无法捕捉的共享结构,即为组合性。作者用可计算近似反推该框架,直接优化字符串与图像以生成具有层级复用和部分-整体组织的对象,并讨论其对神经网络深度和组合数据课程设计的启示。
论文提出多层次AI可及性模型(MAIAM),主张按用途、安全与能力分级开放AI,而非简单二选一(API或开源权重)。分为学习、探索、全规模前沿三层,强调可及性应与能力、风险成比例,并指出开源前沿权重会丧失发布后的所有安全控制手段。
提出基于ASP的声明式框架,对动态环境中交互运动轨迹进行可解释的预期推理,融合ASP动力学建模、语义引导的分支轨迹预测与能量优化排序,在Argoverse 2上验证,相比端到端随机预测可给出可检查的事件级假设。
论文揭示自改进智能体的技能-策略协同演化陷阱:现有方法仅在训练所用技能库上评估,部署后技能漂移会导致策略失效。作者提出CODA评估协议,模拟技能漂移并引入一致性率与抗损坏率指标,实验显示最坏情况成功率比峰值低5-13分,抹去52-93%增益。
该论文将评估器引导的推理建模为计算感知的三动作控制器(信任答案、回退、继续扩展),通过预测答案成功率与基于 rollout 的续推成功率来打分,并显式计入算力成本。方法学习并校准动作级置信度,在宽度扩展与修订任务上提升效用,同时将在线算力分别降低约 30% 和 16%。
该论文提出时序规范引导(TSG),将文本到视频生成中的顺序、时序与持续要求形式化为时序逻辑规范,在推理阶段无需训练即可将规范转化为可微目标,通过视频-文本注意力轨迹的梯度构造去噪方向,增强CFG。在220条提示上,五个模型的规范满足准确率提升9.5-20个百分点,内存开销极小。
该论文提出一种无需奖励、评判模型或答案键的自改进智能体:在精确DSL上运行内外双循环,内循环靠两个独立表达式一致才作答,外循环自主发现缺失能力并编写算子,仅当独立第二实现一致且满足守恒律时才接纳。实验显示其可三倍扩大可答问题集,并拒绝138/138个有缺陷算子变体,在业务账本与临床问答等新领域可自扩展十倍以上。
EvolvingBrain 提出自适应技能系统,让多模态智能体在开放世界中自我进化。它从轨迹中提取程序性与问题性模式,生成分层技能架构(领域、规划、动作/陷阱技能),并用结构化抽象记忆引导状态感知的技能融合。在 VAB-Minecraft 和 DiscoveryWorld 上提升成功率并展现泛化能力。
论文提出开放世界AI的三项要求:推理时学习、丰富表征、预测性解耦,并预测需要一致的内学习器与长上下文。在8B语言模型上验证:满足要求的模型随相关任务数据积累而提升,其余则退化,规模与层交错无法修复。
ARIA 提出面向 LLM 多智能体系统的运行时检查与修正框架,将执行验证过的修复转化为可复用监督数据,训练小模型在任务执行中途识别错误并介入修正,避免事后诊断或反复重跑。构建了首个大规模失败轨迹与验证修复配对数据集(3953 对),可跨框架与宿主模型泛化。
论文提出「有效连贯认知速度」S_C^eff 这一新指标,衡量现实变化速度超过系统认知能力时智能体能否保持可靠行为。作者在固定算力下将现实速度提升至50倍测试强化学习智能体,发现受细胞机制启发的 Co^4 架构显著优于 Transformer 和门控 MLP 基线,为可靠 AI 提供新基准与扩展原则。
L2G-SR 提出用学习到的结构验证器引导基于 LLM 的符号回归搜索,利用树编辑距离构建结构监督信号,弥补纯数值误差偏好近似解而非正确结构的问题。在 LLM-SRBench 上取得数值拟合、方程级准确率和 TED 的最优结果,展示了结构引导对 LLM 符号回归的价值。