每一次灾难发生，每一秒都是一场生命的赛跑，每一条信息都牵动着人们的心。但有些人把灾害当作“流量脚本”，利用人工智能工具伪造灾害、合成夸大灾害、制造假案，真伪难辨，浪费公共资源，透支社会信任。 近日，重庆市公安局依法查处一起网民利用人工智能技术制作、传播虚假灾害报道的案件。 揭穿利用人工智能生成和传播灾难谣言的真相 今年11月，重庆市铜梁区公安局网安支队民警在网上排查中发现，该区一名何姓网友在网络平台上发布了一段标有“铜梁遭遇暴雨”的视频。视频显示，“水位又上涨了”，“很多城镇都出现了水灾”。被淹”等信息，引发网友热议。 经公安机关核实，确认该视频为虚假信息，与当地实际情况严重不符。 犯罪嫌疑人： 他：我转发了他们发布的有关洪水的视频，并对其进行了编辑，并将其发布到社交媒体上。 重庆铜梁区公安局网安支队民警梁哲浩：犯罪嫌疑人在网上取证后，在社交媒体上搜索与洪水、暴雨、台风等相关的视频，然后利用人工智能软件一键生成。 AI软件自动捕捉不同地点、不同时间的灾难视频并合成新视频。事实上，当地并没有发生相关灾害。 经侦查，犯罪嫌疑人为了提高自己社交媒体账号的知名度、获取流量，多次利用人工智能技术生成有关灾难的内容并在线发布。 今年9月，台风“花嘎莎”登陆中国时，他发布了一段显示重庆受台风影响的虚假视频，遭到警方批评和研究。 日前，重庆铜梁区公安局依法对何某作出行政处罚，并开展法制宣传教育。他主动删除了一切虚假信息。 利用AI生成灾难场景，涉案人员受到查处 利用人工智能技术开发灾难场景的案例并非孤立。事实上，在近年来警方查处的多起造谣案件中，我们越来越多地看到人工智能技术的介入。这些虚假信息在互联网上广泛传播，造成不良影响。一些造谣者也被依法追究法律责任负责。 山西省互联网应急指挥报告中心发布消息称，有网友发布视频称“半夜3点大同发生地震，人们外出避难”。经向山西省地震局查询发现，近日凌晨-3时大同市未发生地震。网络谣言是错误信息。 今年6月，一段有关“山西悬空寺多栋建筑倒塌”的视频在网络上流传，引发公众关注和关注。随后，当地警方调查发现，这是三名外国网友利用AI技术制作的虚假视频，目的相同，就是为了吸引流量、引起关注。 当地警方依据相关法律法规，对其中两名情节严重的情节给予行政处分，并对其他情节严重的人员进行批评研究。 利用人工智能制造虚假灾难场景违反中国多项法律法规 网民滥用人工智能工具收集虚假灾害信息、扰乱公共秩序等行为，冒犯了我国众多儿童和监管部门，近年来一直是网信惩戒、公安等部门关注的焦点。 中国人民大学纪检管理学院教授林洪超：我们国家应对这种突发事件有一个基本法，就是《中华人民共和国突发事件应对法》。现行第九十七条规定：制作、传播虚假突发事件信息，或者明知是虚假突发事件信息而传播虚假信息的，给予处分，责令改正，给予警告。如果是公职人员制定了这项法案，他也会受到惩罚。 据专家介绍，根据《中华人民共和国治安管理处罚法》的相关规定，《中华人民共和国刑法》规定，散布谣言，谎报险情、疫情、警情或者以其他方式故意扰乱公共秩序的，处五日以上十日以下有期徒刑，并处五百元以下罚款。公民严重散布谣言，违反中华人民共和国刑法有关规定的，还将依法追究刑事责任。 AI八卦技术门槛低 专家呼吁平台加强审核 专家表示，技术的进步降低了谣言传播的门槛，相关AI工具平台应加强内容分析，防止虚构内容与真实内容相混淆。 记者上网搜索发现，目前市面上有一些免费的“AI写作神器”和“一键视频自动生成器”等软件工具。根据实际测试只需输入简单的文字命令，立即生成涉及洪水情况、火灾等的模拟复制和视频。专家表示，人工智能生成内容的高保真度模糊了事实与虚构之间的界限。 中国人民大学纪检行政学院教授林洪超：突发事件特别是重大灾害的虚假信息与一般的虚假信息不同。它的公共性会震撼社会心理和其他人，会引起社会的强烈关注，所以效果必须说是非常不好的。如果任其蔓延，后果将十分严重。 据专家介绍，根据国家网信办今年3月发布并于9月1日实施的《人工智能生成合成内容Pag标签的建议》，要求人工智能服务商从文本中生成合成内容。同时，服务提供者还必须为防范和打击相关违法犯罪活动提供支持和帮助。 中国人民大学纪检监察学院教授林洪超：AI工具平台一个需要审计，一个需要生产工具。人工智能工具需要有技术设置和可以开发什么、不能开发什么的负面清单。那么可能会有阻止机制，或者提醒或者警告。该工具的提供者对此负有责任。 应急管理部印发涉灾谣言陷阱识别程序 防灾减灾救灾事关人民群众生命财产安全。针对网络谣言的新伎俩，应急管理部近日印发《八卦陷阱识别办法》，呼吁鼓励网络谣言广大网友要提高识别网络虚假信息的能力，同时关注官方消息来源，避免未被察觉的内容进行情绪化传播。 近日，应急管理部发布了如何识别常见灾害谣言的提示。短片中特别提到的“AI灾难”，因其强烈的视觉冲击力，成为谣言的重灾区。还提到了群聊所谓“内部灾难”、自媒体“标题党”夸大灾难、利用灾难制造谣言煽动情绪、撤除政府部门“紧急通知”等一些典型的谣言陷阱。 应急管理部提醒，公众在识别谣言时，一定要关注官方权威发布的信息，关注信息发布时间是否与事件发生时间对应，关注上述地区场景是否与当地自然环境相符，对夸大内容保持警惕。 应急管理部新闻宣传司网络处处长 张婷：针对网络灾害事故谣言，我们建立了应急管理体系和网上协调机制，防止灾害事故谣言的传播。我们也希望广大网友提高识别虚假信息的能力。警惕覆盖时间、地点等关键要素的“点击派对”，警惕视觉冲击力过大、违背常理的所谓现场，警惕炮制歪曲真实人工智能灾难的情节。 应急管理部提醒，针对与灾害有关的谣言，公众应：不相信国际间不实信息不转发情绪化、不明内容，保持理性不恐慌，不好奇救援渠道。不造谣、不信谣、不传谣，共同营造清朗的网络空间。