自动驾驶等具身AI面临视觉攻击，新研究呼吁形成防护机制

【金色港湾资讯网为您推荐阅读】

在自动驾驶汽车凭借摄像头跟传感器识别路标，以此保障安全行驶之际。同时，其底层的人工智能也就是AI系统正面临着前所未见的“视觉攻击”威胁。美国加州大学圣克鲁兹分校的科学家们首次揭示出，攻击者能够通过在环境里植入特定文字信息。进而直接“劫持”自动驾驶车辆以及无人机等自主系统的决策。致使其做出危险行为。研究呼吁，产业界需要尽快形成新的安全标准和防护机制。一项相关的研究，在27日发布于优睿科的官网之上，而那篇论文，已经被AI安全领域里堪称顶级的会议，也就是2026年的IEEE安全可信机器学习大会予以接收了。

具身AI是那种具备物理载体的智能系统，像自动驾驶汽车、配送机器人这类，随着它越来越普及，它所依赖的视觉语言模型成了安全研究的焦点，那个模型能同时理解图像和文本，能帮机器适应复杂现实环境，可也开启了被物理世界文字信息攻击的新突破口 。

新研究头一回提出“环境间接提示”给具身AI系统带来的风险，研究表明，恶意文本能够被嵌入到路标、海报等物理载体之中，进而误导那些依赖视觉语言模型的机器人或者车辆，致使其正常判断与操作受到干扰 ，此次科学家们针对自动驾驶、无人机紧急降落、目标搜索这三类典型应用场景，设计得出并验证了一套称作“CHAI”的攻击框架，达成“针对具身AI的命令劫持” 。此框架先是借助生成性人工智能对攻击文本予以优化，提升其经由系统执行的可能性，接着对文字于环境里的颜色、大小、位置等视觉方面的属性作出调整，以此强化攻击成效 。

依实验表明，CHAI攻击能够有效地操控搭载不一样视觉语言模型的自主系统，于自动驾驶场景里，所生成的起到误导作用的图像被放置于真实环境之中，成功地对测试车辆的导航判断造成了干扰，在针对无人机场景的模拟测试期间，攻击成功率最高能够达到95.5% 。

结果清晰地表明，这般攻击于物理世界里是全然能够实现的情况，对智能系统的安全形成了切实的威胁。伴随AI在物理系统之中的融合持续深入，此项研究给行业预先敲响了安全的警钟 。

【总编辑圈点】

使智能从虚拟世界迈向实体空间的关键部分是具身智能，然而，我们真的能够安心地让AI去接管现实世界吗？科研人员发觉，要对自动驾驶系统实施劫持，甚至不需要开展远程攻击，仅仅在周围环境里稍微做点手脚，于路标、海报以及指示牌上植入攻击文本，便能够让AI自己陷入混乱，做出危险的举动。此项研究给我们敲响了警钟，人类所引以为豪的新技术或许存在比较脆弱的弱点。存在太过众多的因素会对AI安全造成影响，我们必须进一步全面地进行思考，开展更加多的前瞻性研究，为技术的大规模推广普及稳固安全的基础。