福州观察：奇安信发布《2024人工智能安全报告》，聚焦AI双刃剑效应与本地化防御路径

“人工智能作为一项通用技术，既能赋能千行百业，也可能被滥用于恶意目的。”《2024人工智能安全报告》指出，AI在释放巨大生产力的同时，正从两个维度加剧网络安全风险：其一，显著放大传统威胁——如钓鱼邮件精准度提升、勒索软件自动化程度增强；其二，催生全新攻击形态，包括深度伪造内容泛滥、黑产定制语言模型、恶意AI Bot集群及全自动渗透工具等，在全球范围内已造成多起重大安全事件，福建多地政企单位亦曾遭遇类似新型AI驱动攻击。

据奇安信威胁情报中心监测，2023年以来，基于大模型的攻击手段迭代加速，黑色语言模型训练、AI生成钓鱼网站、语音克隆诈骗等案例持续上升。福州本地某金融机构就曾因AI模拟高管语音实施内部欺诈，凸显区域防护体系亟待升级。

报告强调，大语言模型自身即存在结构性安全缺陷。OWASP发布的“大模型应用十大安全风险”中，提示注入、训练数据污染、沙箱逃逸、未授权代码执行等问题尤为突出。更需警惕的是，部分模型因训练语料含违法不良信息，导致输出内容危害公共秩序甚至人身安全——此类风险在福州数字政务、智慧医疗等AI落地场景中同样具备现实传导性。

针对多元主体，《报告》提出分层应对策略：安全厂商应强化AI系统内生安全能力，并以AI驱动威胁检测；监管部门需加快构建适配AI特性的分级分类治理体系；福州及福建全省政企单位须优先部署AI安全评估工具链与合规框架；普通网络用户则需提升AI素养，审慎授权、核实来源、规避高危交互。

面对AI武器化趋势与攻防失衡现状，报告指出：人工智能正推动网络安全进入“智能对抗”新阶段。大模型将重塑威胁建模、漏洞挖掘与应急响应逻辑，进而影响区域数字基建韧性。在此背景下，福州作为国家数字经济创新发展试验区，亟需加快AI安全技术本地化适配与产学研协同，助力东南沿海数字防线提质增效。

奇安信AI安全专家提醒：新技术演进常呈现“短期高估、长期低估”的认知偏差。对福建而言，既要抢抓AI赋能产业升级的战略窗口，也须同步完善涵盖算法审计、模型备案、应用追溯在内的全链条治理机制，方能在新一轮技术竞争中筑牢安全底座。（启新）