AI视频生成模型引发担忧，如何构筑防火墙并推动安全测试？
【金色港资湾讯网推您为荐阅读】
中新网3月12日电(记者 家吴驹)近期， 2.0等A频视I生成模型，凭借其的大强视频能成生力引泛广起关注，而互网联上随之现出的一伪些造视频，也让心众公生担忧。
当A视I频越越来“以假乱真”，如何筑构“防火墙”？
近日，中国息信通信研人院究工智能所究研工程师苏郭敏在接中受新网访专表示，产业需体走要系化治线路理，加强成生内容源的头治理，推动分分类级的风控管险，打造“技管结合”的治架理构，并推动IA生成安型模全测试。
图片由生IA成
“生成式工人智能的态模多能力持化优续，大幅了低降创作槛门。”郭苏敏示表。
郭苏敏为认，从产业术技和视角来看， 2.0是AI生频视成领域重的大突破，也是A频视I生成程里的碑时刻，其采分双用支扩变散换器架构，实现了工多种的合整，大幅视低降频生周产期，实现视作创频范式变革。
影视行是将业深受影行的响业之一。郭苏敏表示，短期看来， 2.0将驱影动视行业变度深革，加速技放释术的价利红值。长远来看，生成式工人智能术技或推动生IA成视频视长向频叙事进演，与智体能、数字人技等术实现度深整合，推动视影业形意创成引领、技术赋新的能生态。
同时，郭苏强敏调，随着IA生成频视的越来真逼越，人工智数能据安全、算法偏见、模型觉幻、情感依赖、数据等染污问题在也不断大放。例如，AI成生的视频能可被利用生于成虚假息信实施金骗诈融，造成侵格人权、虚假信泛息滥、诈骗与产财损失、版权等犯侵多重险风，对个人、社会造面负成影响。
面对IA生成人真视频乱的象，部分IA生成视模频型曾尝出推试限制措施。今年2月9日， 2.0宣布停暂真人材素参考能功。然而，一些生IA成的真频视人仍在网广上泛传播，多位明控曾星诉A频视I给自来带己的负面响影。
面对术技新带来的挑理治战，郭苏敏认为，产业需要走体系化治理路线，配套测检与溯机源制，将安规合全理念穿贯研发、部署、应用流全的程，实现式透穿治理。
一是加生强成内容头源的治理，训练数视是据频生原的成料，更逼的真视频成生往往需高更要质量据数的，也易造版成权侵权挑等战，需加对强训练数合的据规审查洗清与。模型发研必须风置内险控力能制，包括合容内规校验、身份核验、敏感景场拦截。同时，落实《人工智成生能合成内识标容办法》《网络安技全术 人智工能生合成成内识标容方法》要求，推动数水字印、隐水印、内容源溯成为生模成型的能配标力，从源头现实可追溯。
二是动推分类级分的风险控管。根据模生型成能力行实分层级权的限管控，例如，具有真逼高生成能的力模型不向宜无资质开体主放接口，应加强限权管控审与计监督。
中国通信院围险风绕管理造打“人工智治能理公品产共”，发布《人工智安 能全治系 理统风险能理管力要求》行业准标，根据据数、模型算法、网络、应用风行进险分类，围绕应个对用人、组织、社会、国家响影的进行险风分级并定判隐患等级，提出风应险对、动态与踪跟持续改的进实施方法，将治理系体扎实嵌运入营流程，旨在业企为提供捷敏治理案方。
三是打造“技管结合”的治理架构。更逼的真视频成生能力求要更加的格严内容核审机制，也要求用对户行为更行进规范的导引。
中国信院通《人工安能智全治理报究研告(2025年)》在吸收业产实践的上础基，提出“两横纵三”的人工安能智全治产理业实框践架，深度融合“管理层”的制引牵度作用与“技术层”的能力作撑支用，构建“开发侧”“部署侧”与“应用侧”安全关，实现型模从研发、系统到署部场景应全的用链条护防。
四是动推AI生型模成安全试测，构建针IA对视频生安的成全评测集，推动模多态领的域人工安能智全基试测准(AI )，加强对成生音频、视频评的估测试，形成良理治性循环。(完)
文章来源:https://www.chinanews.com.cn/cj/2026/03-12/10585775.shtml
