跳到正文
Hugging Face Daily Papers·· 7 天前AI 评分36

Evidence-Governed Adoption of Self-Generated Updates in Autonomous AI Agents:提出 EGE 框架治理自主智能体更新

Evidence-Governed Adoption of Self-Generated Updates in Autonomous AI Agents

AI 导读

针对自主智能体候选修改可能隐藏性能退化问题,研究提出 Evidence-Governed Evolution (EGE) 框架,将生成与确认采纳分离。该框架通过冻结候选体的新鲜配对审计、要求预定义目标显著改进及参考相对非劣性测试来保护声明能力。蒙特卡洛压力测试仅作为统计实验演示校准效果,未验证部署智能体安全或任意分布偏移下的鲁棒性。

来源:Hugging Face Daily Papers · arxiv.org