大模型Google AI Blog4 天前
Cappy: Outperforming and boosting large multi-task language models with a small scorer
Google Research 提出 Cappy，一个仅 3.6 亿参数的轻量评分器，基于 RoBERTa 持续预训练。它接收指令与候选回答并输出 0-1 正确性分数，可独立完成分类任务，也可作为辅助组件提升多任务大模型表现。无需微调大模型、无需反向传播、无需访问其参数，即可实现下游监督，兼容闭源 WebAPI 模型，显著降低存储与显存开销。