arXiv · 机器人与计算机视觉· Samuel Dawit Assefa, Jae Won Cho·· 20 天前AI 评分55
隐藏承诺:语言模型如何在沉默中站队以及引导如何将其显现
Hidden Commitment: When Language Models Silently Pick a Side and How Steering Can Surface It
AI 导读
arXiv 论文《Hidden Commitment》测试了大模型在冲突语境下的回答机制,发现即使要求披露分歧,模型仍可能返回单面答案。研究通过 Qwen 0.8B 和 Gemma 3 1B 验证,利用残差读出可捕捉隐藏的源选择方向,并通过稀疏中间层 MLP 写入器及坐标引导来改变所选来源。
来源:arXiv · 机器人与计算机视觉 · arxiv.org