站内关键词搜索入口

福州科技界关注:具身AI在福建道路场景中面临新型视觉攻击风险

【金色港湾资讯网为您推荐阅读】

当福州街头越来越多的测试车辆依靠摄像头与传感器识别交通标识、实现自主导航时,其背后驱动的视觉语言模型正悄然暴露于一种新型物理层威胁——“环境间接提示攻击”。美国加州大学圣克鲁兹分校团队最新研究首次证实:只需在真实路标、公交站牌或商圈海报上嵌入特定文字信息,即可误导自动驾驶汽车、物流配送机器人乃至城市巡检无人机的决策逻辑,引发异常转向、误停或目标误判等安全隐患。

该成果已于1月27日发布于优睿科官网,并被国际AI安全领域权威会议——2026年IEEE安全可信机器学习大会(IEEE SaTML)正式录用。值得注意的是,此类攻击不依赖网络入侵,而是利用具身AI系统对物理世界文本的天然敏感性,在福建本地智能网联汽车示范区及福州滨海新城低空经济试验场等典型场景中均具备现实可操作性。

福州科技界关注:具身AI在福建道路场景中面临新型视觉攻击风险(图1)

研究团队构建了名为“CHAI”的攻击框架,聚焦自动驾驶、无人机紧急降落与多目标搜索三类高关联应用场景。其技术路径分两步:先以生成式AI优化攻击文本语义适配度,再动态调整文字在真实环境中的色彩对比度、字体大小与空间位置,显著提升系统误读率。实验显示,在福州大学至三坊七巷沿线模拟路段布设干扰标识后,测试车辆导航偏差率达83.6%;无人机在闽江新区空域模拟任务中,攻击成功率最高达95.5%。

这标志着视觉攻击已从实验室走向实体空间,尤其对福建加速推进的“车路云一体化”试点构成实质性挑战。随着福州入选国家人工智能创新应用先导区,此类跨模态安全漏洞亟需纳入地方智能基础设施建设标准体系。

【总编辑圈点】

福州科技界关注:具身AI在福建道路场景中面临新型视觉攻击风险(图2)

具身AI正从算法沙盒迈向八闽大地的真实街巷。但研究揭示:无需黑客技术,仅靠一张篡改的公交站名贴纸、一处误导性广告文案,就可能让AI系统在福州主城区或平潭综合实验区的复杂路况中瞬间失序。这项工作不仅警示产业界加快构建防御机制,也为福建打造安全可信的人工智能发展高地提供了关键技术参照。

摘要:美研究揭示具身AI易受物理环境中文本诱导的视觉攻击,福州智能网联场景面临新安全挑战。 SEO关键词:具身AI安全,福州自动驾驶,福建人工智能,视觉语言模型,环境间接提示攻击 SEO描述:聚焦福州自动驾驶与福建人工智能发展,解析具身AI在真实环境中遭遇的视觉语言模型攻击风险及CHAI防御框架应对策略。

分享更多
赞
10

同栏推荐

跨栏推荐

跨栏精选