随着人工智能(AI)技术的发展

AI在文本生成、图片创作

等方面有着广泛应用

输入几个关键词即可

快速生成一张画或一篇文章

一些网民为博眼球、蹭热度

将AI技术用以

编“伪消息”、造“假新闻”

以此来获得网民关注和点赞量

进而实现流量变现

今天，我们就来一起学习

面对网上疑似利用AI造谣时

如何增强“免疫力”

AI网络谣言案例

2024年6月，网络平台上的一条“广东省五华县华阳镇一70多岁老人被殴打致昏迷，其孙子为此跳河自杀，打人者一审被判九年十个月”的短视频在互联网平台传播，引发大量网民关注、讨论。公安网安部门迅速开展调查，发现该视频的图文内容系移花接木、肆意编造的网络谣言。据造谣人员任某供述，这段长达几分钟、声色并茂的视频全是由AI合成的。目前，公安机关已依法对任某追究法律责任。

2024年1月，广西东兴市骆某某为博取流量，使用AI软件自动编辑抗洪、救灾视频，捏造了新疆乌什县发生地震的虚假视频信息，造成该谣言信息在互联网平台大量传播。目前，公安机关已依法对骆某某追究法律责任。

2024年5月，河南一网民在某平台发布《一场惊心动魄的“钞票大战”巴中市警民对峙引发轰动谁将成为胜利者》的谣言文章，引发大量网民关注、讨论。经查，该涉谣文章由AI系统生成并发布，相关言论及照片均为不实信息。目前，公安机关已依法对造谣人员追究法律责任。

AI网络谣言特征

定制化

生成式人工智能能够利用多类机器学习方法从数据中学习不同内容的生成特征以及主体的表达风格，只需要输入关键词，AI软件可在网络上抓取素材生成文本，形成定制化的文章、新闻、报告等信息。

门槛低

相比此前造谣者单纯靠人工捏造、散布谣言这一略显“原始”的方式，现在利用AI造谣者只需在AI工具输入关键词即可“一键生成”可以假乱真的文章、图片。

识别难

AI生成的虚假信息在形式上非常逼真，往往新闻要素齐全、内容完整，甚至可能包含图像和视频，这使得公众难以辨别真伪，这种伪装性和欺骗性让谣言更加具有迷惑性。

破坏大

利用AI工具制造谣言能生成极为逼真的图片、音视频，颠覆了“有图有真相”的常规认知，蛊惑性极强，短时间内就能快速传播，易引发社会恐慌，扰乱社会公共秩序。

网络谣言危害

泄露敏感数据

AI对话、文字创作等AI工具可收集并存储用户信息，造成个人隐私数据泄露，甚至可能从一些涉密敏感人员数据中推断出敏感信息。

损害他人名誉

网络谣言往往针对特定个人或群体，散布虚假信息，恶意攻击和诋毁他们的名誉和利益。这可能导致受害者遭受经济损失、社会压力和精神创伤。

误导公众认知

网络谣言往往利用人们的认知和心理弱点，制造虚假信息，误导公众对特定事件或人物的认知和评价。这可能导致公众价值观的混乱。

扰乱公共秩序

网络谣言可能引发公众恐慌和不安，破坏社会信任和稳定。虚假信息的传播可能引发群体性事件，甚至导致社会动荡。

如何增强“免疫力”

1

保持警惕。仔细分析信息的逻辑性，若存在明显漏洞、矛盾或与常理不符的地方，很可能是虚假信息。比如，一些谣言中事件的发展过程不符合常理，或者数据存在不合理的夸张等。

2

多方验证。不要仅仅依赖单一的信息来源，应从多个权威渠道获取信息进行对比。对于一些热点事件，可以检索官方媒体的报道，以验证信息的真实性。

3

谨慎分享。在确定信息真实可靠之前，不要随意转发，以免无意中成为谣言传播的推手。

4

保护隐私。注意保护个人隐私，不随意泄露个人信息给不可信的网站或应用程序，防止个人信息被用于生成虚假内容。

END

素材│广西网警

— 欢迎关注 —

网友看法

1、网友精神病统一收治中心：听说过鼠头鸭脖吗？

2、网友木易森779：网警的业务水平必须跟上时代步伐，对高科技违法犯罪进行精准打击，以震慑犯罪！！

3、网友金灿灿的文字：乱辟谣也应承担法律责任。

4、网友幸运饺子07：许多平台都支持所谓AI创作，为了自己的AI使用量变项支持造谣；不赖博主，就是平台造成的，它们有能力鉴别那些是AI写作的。[看][看][看]

5、网友知情达理柳叶刀：珠海事件合常理吗？因为离婚

6、网友太阳38490：感觉未来AI好可怕好可怕，它可以颠覆你的大脑，让人第一时间无法识别真假从而被带偏

7、网友好风自扬：未来生活，不可想象[尬笑]

8、网友盐城网警：转发了

9、网友清闲的熊猫xS：虽然一直在打击网络平台上滋生的刷手，写手网暴造谣，用移花接木，改头换面，网暴，但，抖音平台纵容了这种黑恶

10、网友清闲的熊猫xS：这种黑恶势力在抖音平台上滋生的刷手，写手，及不良评论区的不良评论，他们成立的群里，如果网络平台不纵容，应该很容易分辨

11、网友夜空中最亮的星SWZ：科技是把双刃剑！ 现在AI能生成大量文章，以后能生成视频，真真假假假假真真，不是人能判断的！[泪奔]

12、网友大兴安岭网警：随着人工智能(AI)技术的发展 AI在文本生成、图片创作 等方面有着广泛应用 输入几个关键词即可 快速生成一张画或一篇文章 一些网民为博眼球、蹭热度 将AI技术用以 编“伪消息”、造“假新闻” 以此来获得网民关注和点赞量 进而实现流量变现 今天，我们就来一起学习 面对网上疑似利用AI造谣时 如何增强“免疫力”

13、网友悠闲风筝26U：山东威海文登区售楼部婚托诈骗卖房！骗子在珍爱网平台以单身名义相亲.冒充做工程.以工作忙为由,要求女方来威海见面,然后以结婚为目的谈条件。骗子说首付款各付一半.房产证写女方名字，贷款由男方来付。我的贷款不具备条件.银行怎么就帮我贷款办下来了。银行做假账。开发商卖房，价格虚高，另外骗子以工程款还没有收到为由,拒绝还贷玩消失，(有证据)2024 年 九月本人和八九个受骗姐妹一起去南海新区派出所，不给立案，前期很多受害者都不给立案。 明明是有共性的团伙诈骗案，在被派出所，开发商和住建局，信访部门像踢皮球一样来回折腾，不积极开展刑事侦查，还说够不成诈骗，立案回执也只是针对解决房子问题，非完整口供，重要指向性的线索都不记录。后经姐妹们集体联名举报到文登区和威海市的公安局，检 察院，信访部门后，才立刑事案件。目前有一个楼盘海澜郡非常积极在处理受骗者还贷退房。我们风情海岸的开发商一直不出来处理。这期间我们知道的该楼盘累计就有上十名受骗者，有多名已办好房产证。立案后，海蓝郡售楼部开发商先垫资还清房贷余额，但威胁恐吓受害者们签保密协议，不许网络爆光他们的骗局，否则不给退房退款，更过份的是，让拿到钱的，退房退款的姐妹不要立案否则罚款十万。借此减少对婚托骗子，开发商和中介的犯罪定性和量刑，另外拿到钱，退房退款的姐妹，要求他们写谅解书，谅解骗子诈骗罪。由此也可见，南海的法制之垃圾，不然当地婚托卖房怎会如此猖狂，据内部人透露该楼盘是央企国企还是有股东是政府人员， 有的楼盘仍不退款退房。 国庆期间，小区内仍见不少骗子在集体上课，有组织有分工，他们会带每个新目标到酒店搞活动营造氛围，每个新的受害者来前，团伙骗子们都会聚集合伙设局，可见规模之大，分工之清晰，套路之成熟，诈骗团伙行为令人发指。国庆黄金周还带人到各楼盘卖房行骗，涉案楼盘不但没封盘暂停销售，还在继续火爆销售中。在立案后，在住建局和警方约谈开发商后，诈骗犯罪活动仍如此猖獗，一如骗子们口中狂言： 威海南海新区就是“法外之地”。可见威海南海新区“婚托卖房”就是条非常成熟的黑色产业链。受害者们 当初被各环节踢皮球，现在文登区和威海市公安局介入，诈骗团伙还是如此猖獗，可见威海南海的各环节 的法治力度之弱，我们不得不向更上级举报和报案。要求退房退款，希望有关部门还我们百姓一个公道，维护我们合法权利！

14、网友东方红曰升空：https://m.toutiao.com/is/iAChL38q/?= 东方红曰升空:搞笑，哈里斯一伙催拜登速辞职，自己过把总统瘾 - 今日头条

15、网友海北网警：听说过AI造谣吗？

16、网友佳木斯网警：听说过AI造谣吗？

17、网友固原网警：听说过AI造谣吗？

18、网友重庆网警：听说过AI造谣吗？

19、网友济源网警：听说过AI造谣吗？