台风「诺尔」在中国登陆后，社交媒体平台涌现大量利用人工智能技术制作的虚假视频，对本就紧张的防汛救灾工作构成额外挑战。

过去数月间，强风暴雨和洪涝灾害催生了大量谣言视频，包括捏造洪水中的浮尸、夸大未受灾区域的灾情，以及发布歪曲救援行动的虚假画面。部分地区还出现关于停电的谣言，引发居民恐慌性抢购应急物资。

这些谣言往往嫁接真实事件。7月初广西横州市发生洪水，导致数百条蛇从养殖场逃逸，随后便出现鳄鱼被放入河中的伪造图片。浙江省公安厅网安总队副总队长黄志华接受官方媒体采访时表示：「许多内容创作者利用灾害新闻博取关注，明知夸大内容会获得更多点赞和浏览量，仍故意编造信息。」

近期已有多名造谣者被拘留或罚款，情节严重者面临刑事追诉。然而专家警告，一场前所未有的虚假信息危机正在酝酿。

中央党校机关报刊载的文章中，教授陈斌指出：「人工智能大幅降低了生产虚假信息的技术门槛，个人无需专业技术能力，仅需简单向AI工具发出指令，即可快速生成高度逼真却完全虚构的图文音视频内容。」华东政法大学教授高富平分析造谣动机，既有「只为博人一笑而不计后果」的恶搞心理，也有「为个人牟利引流」的逐利行为，还有企图「制造恐慌或社会动荡」的恶意目的。

有学者呼吁对AI生成内容强制添加水印，但水印可被再编辑去除。北京师范大学教授徐晓ke强调需要加强地理坐标与时间戳的核实以及图像来源查验，同时警告：「检测技术仍滞后于生成技术，这场猫鼠游戏中不应指望一键识别AI内容。」

中国正在大力投资AI产业以争夺全球科技主导地位，仅AI企业就超过6000家。徐教授建议建设「可信信息基础设施」，包括官方预警系统和可供媒体调取的灾害信息接口。然而官方媒体淡化灾情的先例削弱了公众信任——7月初，记者被要求将六兰坝决口「软化」为「缺口」，导致下游至少26人遇难；2021年河南也有地方官员因瞒报139人死亡被逮捕。

宁波公安局的高凯呼吁公众「对不明来源的灾害信息保持警惕，相信官方通报」，并称已建立专门任务组全天候监控短视频平台。处罚可从罚款至七年有期徒刑。7月23日，国家网信办宣布全国打击涉汛灾害网络谣言专项，整治伪造数据、恶意剪辑、摆拍场景、嫁接历史事件及冒充官方人员等行为。

教授高富平认为应「教育与执法并重」，公开处罚案例以儆效尤，「AI虚假内容的危害归根到底是人们如何使用技术的结果」。但陈教授认为「技术演进速度远超法律框架，新型法律问题不断涌现，AI虚假信息仍是巨大挑战」。

上海与华盛顿的律师彭康指出，平台是这类虚假信息得以传播的「使能者」，理应与创作者共同承担法律责任。徐教授最后警告：「AI虚假信息不仅数量将增加，传播速度也会更快。政治选举、公共卫生、武装冲突、自然灾害等领域都将成为高风险地带。政府与平台应未雨绸缪，而非等待谣言蔓延再试图控制。」