香港日报

近年来，以大数据、人工智能(AI)等为代表的信息技术日新月异。与此同时，利用AI工具合成技术编造谣言，甚至生成逼近真实的图片、音视频，颠覆了“有图就有真相”的常规认知，让人难辨真假。

AI造谣的定义

AI造谣指的是利用人工智能技术生成虚假信息，‌包括文字、‌图片、‌音视频等，‌以此来制造网络谣言。

AI造谣典型案例

案例一：利用AI软件编造“山体滑坡致8人遇难”网络谣言

2024年1月23日，有网民在某平台发布文章称：“云南山体滑坡灾害 已致8人遇难”。经查，违法行为人杨某某为获取流量牟利，搜集网络上的相关信息后，利用AI软件生成了“云南山体滑坡灾害 已致8人遇难”的虚假新闻信息，并发布在网络平台上，造成不良社会影响。目前，公安机关已依法对杨某某进行行政处罚。

案例二：利用AI软件编造“喜德县地震”网络谣言

2024年6月9日，有网民在某视频平台发布视频称：“5月27日，四川省凉山彝族自治州发生5.0级地震，震中位于喜德县，地震波以每小时80公里的速度传播。地震造成了大量房屋损坏和人员伤亡，灾情严重”。经查，5月27日凉山发生5.0级地震，震中位于木里县，无人员伤亡，部分房屋受损，违法行为人罗某某为吸引眼球、获取流量，利用AI软件生成虚假地震灾情图片，并在某短视频平台散布不实信息。目前，公安机关已依法对罗某某进行行政处罚。

案例三：利用AI软件编造“女子电动车被扣后猝死”网络谣言

2024年6月，某网络平台出现一条关于“执法与人性的碰撞：五旬妇女电动车被查扣猝死”的消息。该文章称：“澄城县一妇女为了照顾病重的父亲匆忙赶路，却遇到交警执法，在哀求无果、电动车被扣后，情绪瞬间崩溃，心脏病发作最终未能挺过这一关”。这篇“情节曲折”的文章引发网民广泛关注，给当地造成极大的负面影响。经调查，田某利用AI工具，加工生成了“澄城县城的一妇女电动车被查扣猝死”的虚假信息并发布至其某平台账号。目前，田某对自己通过AI软件编造谣言的情况供认不讳，公安机关依法对田某处以行政处罚。

以上案例均是通过AI软件合成的不实信息，不法分子‌为了赚取平台奖励或吸引流量，‌使用AI软件自动生成文章，‌并与实际图片进行嫁接，‌发布在网络平台上，‌造成不良社会影响，严重扰乱社会公共秩序。