跳到正文
arXiv · 机器人与计算机视觉· Muhammad Uzair Shahid, Muhammad Zabil Mehboob·· 20 天前精选AI 评分78

联邦训练是否降低可解释性?集中式与联邦式深度伪造检测的 Grad-CAM 忠实度对比分析

Does Federated Training Degrade Explainability? A Comparative Analysis of Grad-CAM Faithfulness in Centralized vs. Federated Deepfake Detection

AI 导读

该论文系统研究了联邦学习对深度伪造检测模型解释性的影响。研究在 FaceForensics++ 数据集上评估 EfficientNet-B4 检测器,发现联邦模型的解释质量与数据异质性呈非单调关系:在接近独立同分布及中等异质条件下,联邦模型的解释忠实度不低于集中式基线;但在极端异质性下,解释完全失效且因果误导。研究提供了识别安全部署边界的实用指导,并开放了代码与数据分区以供复现。

推荐理由

研究揭示联邦学习在深度伪造检测中解释性随数据异质性呈现非单调变化,极端异质下梯度解释失效。

来源:arXiv · 机器人与计算机视觉 · arxiv.org