跳到正文
热点事件观察中

IDEA 方法检测 GUI 智能体推理后门

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

针对下载型 GUI 智能体的供应链风险,研究提出 IDEA 方法以检测模型在推理阶段的后门激活。该方法通过意图反事实探测与区域因果审计量化决策状态偏移,并利用门控共形分数提供有限样本下的误报保证。 实验验证显示,IDEA 在 Qwen2.5-VL-3B 模型上对五类攻击均有效,不仅能定位触发区域,且保持了适中的推理开销。

AI 根据报道生成 · 45 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. Hugging Face Daily Papers
    IDEA:一种用于 GUI 智能体推理时后门检测的意图优势证据审计方法

    针对下载型 GUI 智能体的供应链风险,本文提出 IDEA 方法以检测推理时的后门激活。该方法通过意图反事实探测与区域因果审计量化决策状态偏移,利用门控共形分数提供有限样本误报保证。实验表明,IDEA 在 Qwen2.5-VL-3B 模型上对五类攻击均有效,能定位触发区域且推理开销适中。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。