AbridgeKV 训练模型把已完成的长推理文本块压缩进少量可学习 pause token 的 KV 条目，从而释放原始缓存，后续 token 改为关注这些 pause token。在 AIME 等 446 道竞赛题、32K 生成下，仅保留四分之一缓存即可匹配全 KV 模型精度，vLLM 中单序列缓存缩小 3.5 倍、H100 完成速度提升 3.2 倍。

#kv-cache #long-context

已过时译

大模型arXiv cs.CL4 天前

Exploring the Design Space of Permutation Diffusion LLMs

该论文研究用扩散语言模型生成排列的问题，对比三种参数化方式：硬分配、软分配和直接排序打分。在亚马逊推荐重排任务上，直接排序打分无需匈牙利算法或Sinkhorn归一化即可保证有效排列，且多次函数评估未必提升排序质量，表明噪声、参数化、目标与解码器需联合设计。

#diffusion-llm #permutation

已过时译

RAG 与数据arXiv cs.CL4 天前

Jev-as-a-Judge for RAG Claim Verification: Confidence-Gated Cascading Between a Non-Generative Verifier and a Frontier LLM

论文对比非生成式判定模型与前沿LLM在RAG声明验证上的表现：两者准确率统计上无差异，但成本相差187倍。关键发现是准确率相同掩盖了错误结构差异——廉价模型放行更多无支撑声明。基于置信度的级联路由可降本，但随机升级对照实验表明节省来自升级比例而非置信度选择。

#rag #llm

已过时译

大模型arXiv cs.CL4 天前

Context Injection and Long-Horizon Reliability: Separating Duplicate Recognition, Local Processing, and Counter Tracking

该论文将长程任务失败拆解为三个可逐步评分的组件：重复识别、局部处理和计数器追踪，在400步账本任务中测试Qwen3-8B。发现重复识别错误在后期上升，而插入无关内容会使计数器在全部种子中失败，但外部精确状态提醒可在一两步内纠正。揭示了聚合错误分类会掩盖组件差异。

#llm #long-context

已过时译

行业落地arXiv cs.CL4 天前

MeddeX: A Retrieval-Augmented LLaMA-3 System with Gemini Vision for Evidence-Backed Medical Report Analysis

MeddeX 是一个医疗报告分析系统，将 QLoRA 微调的 LLaMA-3 8B 与 RAG 及 Gemini Vision 多模态层结合，支持文本 PDF、扫描件和放射影像，提供有证据支撑的摘要、报告内检索与纵向对比。相比基线模型 ROUGE 与 BLEU 显著提升，展示领域微调在临床辅助决策中的实用价值。

#rag #llm

已过时译

行业落地arXiv cs.CL4 天前

Real-time Chatbot Romance Scam Detection in Stage Classification

该研究基于 Line Messaging API 开发实时聊天机器人，利用大语言模型结合社会科学中的七阶段理论，识别恋爱诈骗所处阶段，并在检测到风险时给出阶段解释与防范建议，为真实场景中的反诈应用提供可行方案。

#llm #application

已过时译

行业落地arXiv cs.CL4 天前

A Large-Scale Dataset for Multi-Class Financial News Classification in Brazilian Portuguese

该论文发布约16万篇巴西葡萄牙语金融新闻的大规模语料库，填补该领域数据集稀缺的空白。作者用人工和LLM两种方式标注子集，并对比余弦相似度、KNN和FAISS三种语义检索分类方法。结果显示任务对标签质量和类别分布高度敏感，人工标注下KNN最佳（准确率47.3%），LLM标注下F1骤降至约20%，凸显高质量人工标注的必要性。

#nlp #dataset

已过时译

AgentarXiv cs.CL4 天前

PRISM: PRIvileged Sibling-guided Multi-Agent Topology Design

PRISM 提出一种面向 LLM 多智能体系统的拓扑生成后训练方法：利用同一查询下另一个已验证可行图作为"特权兄弟"信息，通过零初始化低秩分支让教师模型提供逐决策监督，使学生模型学到查询级偏好，避免 SFT 偏向语料高频拓扑。在六个基准上优于现有拓扑设计基线。

#multi-agent #llm

已过时译

AgentarXiv cs.CL4 天前

DeepUnfolding_Agent: A Classical_Quantum Adaptive Control API

该论文提出 DeepUnfolding Agent，一个基于 FastAPI 的 schema 驱动平台，将深度展开自适应控制从训练脚本中解耦为外部服务。执行器注册策略 schema、提交诊断变量并获取受约束的控制动作，支持经典、量子感知、混合及 IBM Quantum 执行路径，提升复用性、可复现性与安全性。

#agent #quantum

已过时译

AgentarXiv cs.AI4 天前

Learning When to Withdraw: Curriculum Coverage and Rule-Specific Failures in Fine-Tuned Language Agents

论文研究工具型语言智能体的"选择性撤回"能力：在证据变化或授权撤销时暂停受影响动作、保留有效工作。用 Qwen2.5-3B 的四个 LoRA 检查点在合成环境 NAQD-Env 上做监督微调对比，发现微调后决策一致性与撤回召回率显著优于基线，但存在规则级失败（如错误撤回、禁止组合收窄不足）。贡献在于提出检测聚合指标掩盖的规则级退化的方法。

#agent #llm

已过时译

大模型arXiv cs.AI4 天前

Recursive Reward Improvement via Adversarial Meta-Prompt Evolution

提出 RRI（递归奖励改进）方法，用对抗性元提示演化监督模型自写评分标准：先让对手模型写出钻空子的答案，再让同一模型写诚实答案，通过最多两步修复使诚实答案胜出，并将发现的漏洞反馈到后续任务生成。在 HealthBench Professional 上较基线提升 10.9-12.4 分，且无需外部模型，显著改善开放式专家任务的自改进效果。

#llm #self-improvement

已过时译

大模型arXiv cs.AI4 天前

Failure Is the Mother of Success: Recovering Supervision with Grounding Hindsight

RSHD 方法针对 GRPO 训练中全部 rollout 失败时无监督信号的问题，让策略对失败尝试写纠正笔记并在上下文中重解，仅当重解成功率高于原组且未泄露答案时才采纳，再蒸馏回普通提示策略。无需额外推理，跨模型与领域稳定优于 GRPO。

#grpo #rlhf

已过时译

行业落地arXiv cs.AI4 天前

Deep Reinforcement Learning for HPC Job Scheduling: A Statistical Evaluation

该论文用统计框架评估六种深度强化学习（PPO/A2C/DQN，含/不含动作掩码）在真实 Slurm HPC 作业调度中的表现，并加入掩码随机对照。结果显示同构负载下掩码DRL未显著优于对照，异构负载下MaskablePPO三项指标均改善，最大有界减速比LCFS低22%。强调需用掩码随机基线区分'能跑完'与真实调度收益。

#reinforcement-learning #hpc

已过时译

大模型arXiv cs.AI4 天前