站内关键词搜索入口

福州网安提醒:AI“一键去衣”非技术炫技,实为严重违法——北京首例深度伪造淫秽图像案剖析

人工智能技术加速落地,福州本地高校与数字产业园正积极推进AI伦理治理研究。但与此同时,部分境外非法工具被不法分子滥用,“AI换脸”“AI视频合成”等衍生乱象频现,其中“一键去衣”类深度伪造技术已沦为新型网络犯罪工具。

这不是科幻场景,而是真实发生的刑事案件:北京警方近期破获一起利用AI实施图像伪造、制作并贩卖淫秽内容的案件,涉案图片近7000张,受害者遍及全国多个省市,包括福建籍女性网民。

案件主犯白某某,原为某互联网公司技术员工,2023年6月通过境外社交平台接触所谓“AI去衣”工具后,在福州网络安全专家多次警示的同类风险背景下,仍选择铤而走险。

北京市海淀区人民检察院检察官李鹏介绍,白某某在境外平台发布广告称“电脑AI去衣,白菜价”,明码标价1.5元/张,并宣称“身边人、网红、明星皆可”。经核查,该帖文浏览量约3万人次,实际成交351人。

检察官助理郭树正指出,所谓“一键去衣”实为基于预训练模型的图像重绘技术,属典型的深度伪造(Deepfake)应用,并非真实剥离衣物,而是通过算法生成高度逼真的虚假裸露图像,操作简易、生成迅速——单张处理仅需数秒至数分钟。

警方在其个人设备中查获大量伪造图片,所有图像均未经当事人知情或授权,人脸信息被恶意篡改利用。公诉机关强调,该行为不仅侵犯公民人格权与隐私权,更严重损害社会公共利益,尤其对青少年网络环境构成现实威胁。

今年4月19日,北京市海淀区人民法院依法开庭审理此案。白某某因涉嫌制作、贩卖淫秽物品牟利罪被提起公诉,其数月内非法获利近万元,最终难逃法律制裁。

值得警惕的是,此类AI造假工具门槛极低,且已在部分灰色渠道向国内渗透。福州网信办近期联合公安、教育部门开展校园AI安全宣讲,提醒公众尤其是学生群体:切勿尝试、传播或购买任何非法AI图像服务。

分享更多
9

同栏推荐

跨栏推荐

跨栏精选