arXiv · 机器人与计算机视觉· Bo Han·· 6 天前AI 评分53
作为预算的安全:校准受限 GRPO 的视觉语言模型控制通道
Safety as a Budget: Calibrating the Control Channel of Constrained GRPO for Vision-Language Models
AI 导读
Bo Han 提出一种两通道受限 GRPO 方法,通过将安全定义为有害协助与过度拒绝的预算率并修复梯度抵消问题,使 Qwen3-VL-2B 在对抗提示下的有害响应从 8.9% 降至 4.8%,同时保持良性查询的低误拒率和基准测试表现。
来源:arXiv · 机器人与计算机视觉 · arxiv.org