AI造谣成本低、传播快，普通人如何识别和防范？

80元就能造一条AI谣言，成本低到惊人

福州市公安局网安支队的民警林伟, 跟小编讲了这么一件事, 他们破获的一个案子里, 嫌疑人呢, 只要花八十块钱去买那个AI工具包, 然后输入几个关键词, 就能在十分钟之内生成一篇带有图片以及数据的“新闻稿”。要说这谣造得可真容易, 成本低效率高, 就像野草似的一个劲儿疯长。

昔时造谣需撰写稿件、修饰图片、配搭声音, 如今借助AI一键便可实现。于2025年, 全国网信系统发觉并处置由AI产出的谣言信息超12万条, 相较于上一年度近乎翻了三倍, 且此数目仍在迅速攀升。

假新闻还有假专家，一条龙造假难以分辨

调查被小编发现, AI造谣已然构成完整的产业链。漳州一处工作室遭查获之际, 屋内放置着6台电脑, 运行着多个AI程序, 可自动生成文字报道、现场照片, 甚至还能够生成“专家解读”的短视频, 视频里专家的形象以及声音均是AI合成的。

更令人难以防范的是, 在这些虚假新闻当中还有真实照片与数据掺杂其中, 真与假交织在一起。厦门大学新闻传播学院教授赵明讲道: “以往的假新闻一眼便能瞧出, 而如今由AI炮制的假新闻, 就连专业人士都得耗费很长时间方可辨别。”。

抖音去年识别速度从“天”变成“小时”

针对AI造谣严重四处泛滥的情况, 平台方面正在对技术手段加以升级处理。抖音安全中心所给出的数据表明, 到2025年时, 他们凭借AI大模型技术, 把识别那些可疑信息之前所需花费的时间, 从以往的以“天”来计算, 缩短至以“小时”来计算, 而且全年当中谣言内容的曝光数量直接下降了90%。

需要留意的是, 这属于抖音头一回对外公布这般精准的数据, 这表明技术反制的确产生了成效。然而平台的工作人员同样表示, AI技术在不断发展，造谣手法也在持续更新, 当下基本上每一个月就要对识别模型进行一次升级。

源头造谣者被判刑，这才是真管用

杭州市西湖区人民法院, 在2025年11月, 审理了一起案件名叫AI造谣案, 被告人是张强, 此人通过AI编造了假新闻, 内容讲到 “某知名企业高管涉黑”, 之后通过自己注册的15个账号, 在多个平台进行分发, 仅仅三天时间就能获得超过200万次的阅读量。

张强最终被法院按照寻衅滋事罪判处了有期徒刑一年六个月, 并且还被处以5万元罚金。该判决在业内引发了震动。于浙江省公安厅网安总队担任警官的王磊向小编说道: “此乃省内首例因AI造谣而被判处实刑的案件, 对造谣者构建起了强有力的震慑。”。

政策来了：AI生成内容必须打上标签

今年3月, 国家网信办以及另外三个部门联合发布了《人工智能生成合成内容标识办法》, 明确规定自2026年4月开始, 所有由AI生成的内容都必须标注带有“AI生成”字样的标识, 不可以使用容易造成混淆的表述。

抖音、微信、微博等20家主要平台, 小编注意到其已完成技术升级, 系统会自动识别AI生成的内容, 且在内容下方标注“AI合成”字样, 若平台没做到, 将会面临最高罚100万元的处罚。

治理AI谣言，光靠技术还不够

即便是技术手段具备有效性, 然而治理AI谣言绝不能够单单依赖机器。监管部门所肩负的责任需要清晰明确, 平台所承担的责任需要清晰明确, 用户所承担的责任也需要清晰明确。举例来说, 一旦平台察觉到AI谣言, 不但要将相关内容予以删除, 而且还要针对发布账号实施诸如禁言、封号之类的惩处。

你所刷到的那所谓的“现场视频”, 或者那所谓的“专家解读”, 你可曾有过这样的思考, 即有没有想过其有可能是由AI编造出来的呢?

更多精彩文章请关注=>金色港湾资讯网 www.fzjsgw.com