福州聚焦智能体安全风险
福州观察｜2026年智能体加速落地：福建数字生态迎来安全治理新考题
【金色港湾资讯网为您推荐阅读】
中新经纬2月26日电（袁媛）2026年正成为智能体规模化应用的关键节点。在福州滨海新城人工智能产业园、厦门软件园三期等福建重点数字产业集聚区，智能体已不再停留于实验室演示——它正以“数字代理”形态深度嵌入政务办事、跨境电商、智慧文旅等本地场景。用户一句语音指令，即可跨平台完成景区预约、闽政通信息核验、e福州支付等操作，技术便利性显著提升。
然而，伴随落地节奏加快，风险同步浮现。2月24日，对外经济贸易大学数字经济与法律创新研究中心举办专题研讨会，聚焦“智能体的高质量发展与治理路径”。来自北京、上海及福建高校与企业的十余位专家指出：当前智能体生态呈现“功能跑在前面，安全落在后面”的典型特征，而这一趋势对福州、厦门等地正在推进的全域数字化转型构成现实挑战。
与传统大模型不同，智能体的核心突破在于“能动性”：它由感知、记忆、规划与执行四大模块协同驱动，可主动调用API、操作界面、发起支付。这种能力跃迁，也使风险维度从单一模型输出，延伸至硬件层、系统接口、跨应用行为链与用户交互全过程。
北京邮电大学网络空间安全学院副教授李朝卓分析指出，智能体安全隐患具有结构性：感知环节易受幻觉干扰；规划阶段可能生成偏离用户本意的恶意逻辑；工具调用层面则面临API滥用、权限越界与第三方组件劫持等新型威胁。这些风险，在福建多地试点的政务智能助手、银行手机端AI服务中已初现端倪。
小红书技术合规负责人田云飞强调，当智能体介入APP原有运行逻辑，传统“封闭式服务边界”被打破。以福州本地生活服务平台为例，过去APP仅提供信息展示与跳转，如今智能体可直接代用户比价、下单、评价——用户授权范围大幅扩展，但知情同意机制却尚未同步升级。
蚂蚁集团隐私保护研究中心主任李海英进一步指出，为实现跨应用操作，手机端智能体常依赖无障碍服务与系统级权限，其长期记忆机制更需持续访问用户行为数据。这在提升效率的同时，也对《个人信息保护法》所要求的“最小必要”原则形成实践压力。尤其在视觉驱动型智能体中，录屏解析、界面抓取等行为是否上云、如何脱敏，往往缺乏透明披露。
资金安全风险尤为突出。（新极棒）技术负责人肖轩淦以AI眼镜攻击链为例说明：一旦设备失守，攻击者可截获支付弹窗、窃取短信验证码，甚至伪造银行通知诱导用户二次授权。在福建沿海城市高频使用的数字人民币钱包、海峡银行智能客服等场景中，若权限控制与行为审计缺位，此类链式攻击极易发生。
面壁智能法律业务线解决方案总监邵帅指出，智能体推动隐私风险范式转变——从“平台静态存储”转向“跨场景动态流转”。数据在政务、金融、通信等多系统间自动调用、拼接、建模，用户却难以实时掌握权限边界与执行路径。一旦出错，责任在模型方、平台方与用户之间呈分布式扩散，现行法律框架亟待适配。
责任归属问题已进入司法实操阶段。2025年9月，上海徐汇区法院一审判决AI伴侣应用“AC（Alien Chat）”两名开发者构成制作淫秽物品牟利罪。该案暴露出关键矛盾：算法自动生成内容是否等于开发者免责？业内普遍认为，通过提示词设计、训练数据筛选与功能架构设定，开发者实质掌控输出方向，不应以“技术中立”规避主体责任。
北京交通大学法学院副教授付新华指出，智能体的自主决策特性，导致用户与服务商均难实现全流程控制，易在现有法律体系中形成“责任真空”。她主张将智能体界定为“工具—主体之间的中间构造”，通过平台、开发者、操作系统厂商与监管方的多层协同，构建责任重叠机制。
中国政法大学法与经济学研究院副教授谢尧雯补充强调，手机智能体在OS与APP之间新增“数字代理层”，重构了资源调度逻辑与控制权分配。这对福建正加快部署的省级一体化政务服务平台提出新要求：须按风险等级实施分级干预——高风险事项（如社保提取、不动产登记）保留人工终审权；低风险服务（如天气查询、公交到站提醒）可适度放权。
美团数据与隐私保护法务负责人朱玲凤建议，应以工程化思维构建四重可控体系：动作可控（熔断回滚）、输入可控（内容过滤）、生态可控（白名单接入）、记忆可控（生命周期管理）。北京大学光华管理学院翁翕教授则提醒，当智能体深度介入日常决策，人类“慢思考”的反思能力可能弱化，公共政策需在AI的建构理性与人的有限理性之间重寻平衡点。
文章来源:https://www.chinanews.com.cn/cj/2026/02-27/10577317.shtml
摘要：2026年智能体加速落地，福建多地数字场景已开展应用，但安全、隐私与责任界定等风险同步凸显，治理规则亟待前置构建。 SEO关键词：福建智能体,福州人工智能安全,智能体隐私保护,数字代理治理,福建AI监管 SEO描述：聚焦2026年福建智能体落地现状，分析福州、厦门等地在政务、金融场景中的安全挑战，探讨智能体隐私保护与跨平台责任界定等核心议题。
