Exploring the Design Space of Permutation Diffusion LLMs

arXiv:2610.20635v1 公告类型：新

摘要：使用语言模型进行排列生成，既需要以文本为条件的排序，也需要候选与输出位置之间的全局一对一分配。我们通过三种扩散 LLM 参数化来研究这一问题：对打乱的候选索引序列进行硬分配预测、对双随机矩阵进行软分配预测，以及直接预测排序分数后再排序。这三个类别将排列约束置于预测与解码的不同阶段，因而支持不同的训练目标和采样流程。我们在三个 Amazon 领域的推荐重排序任务上评估这些设计，候选集大小分别为 10 和 20。在一次函数评估下，硬分配和软分配变体取得了与受约束的 masked-diffusion 基线相当的 Recall@1，而直接排序分数预测无需 Hungarian 分配或 Sinkhorn 归一化即可保证有效的排列。额外的函数评估并不能持续提升排序质量，其效果在很大程度上取决于状态表示和训练目标。这些结果表明，对于使用语言模型去噪器的排列扩散，损坏过程、预测参数化、目标和解码器应当联合设计。