IEEE Spectrum · Robotics· VicOne·· 22 天前AI 评分50
VicOne 揭示机器人安全功能在输入被篡改时的脆弱性,演示海报文字与不可听音频可诱导 Gemma 4 E4B 及 Nemotron 模型改变行为
Your Robot’s Safety Functions Already Work. What If the Input Lies?
AI 导读
VicOne LAB R7 研究显示,当输入数据被恶意篡改时,原本依赖传感器读数的机器人安全决策可能失效。实验证实,在基于 Gemma 4 E4B 的机器狗测试中,海报文字可被误判为指令;而在搭载 NVIDIA Jetson AGX Orin 运行 Nemotron 的仿真环境中,人类听不见的音频也能改变机器人行为。该研究强调需重新评估针对服务机器人的信息安全性及现有防护机制的有效性。
来源:IEEE Spectrum · Robotics · spectrum.ieee.org