此次，网信部门是实实在在地采取行动了，有13421个账号被封禁，54.3万条信息被清理，AI造假这一回是真的惹上麻烦了，狗在高铁站救助婴儿、奥特曼怀有身孕、鳄鱼伤人，这些荒诞不经的视频背后全都是AI在作祟。
狗熊救人全是AI编造
微博名为“澄馫”的账号，发布了狗于高铁站救下婴儿的那个视频，其播放量达到了高达数百万的程度。快手账号“玲子爱狗狗”的情况更为夸张，它呈现的是让狗去拆炸弹从而救人的内容，而评论区居然真的有人相信了。哔哩哔哩账号“空空说电影”所制作出来的是鳄鱼伤人的视频，此视频把不少网友吓得晚上都不敢出门了。
这群视频制作者均采用了同一计策，将借助AI生成的内容当作真实发生的事件予以发布，且未作任何AI标识的标注，他们所看重的便是这类表述易于引发转发，一条相应视频能够带来达几万块钱的流量收益，在被处置以前，单单“玲子爱狗狗”这一账号就发布了27条相似的内容。
AI换脸冒充名人赚钱
“浮萍9419”这个微信用户，运用AI换脸技术将自身变为某知名竞赛人员，于开展直播期间蓄意讲出一些存在争议的话语。“乘风已归来”这个微博账号，复制了三位节目主持人的嗓音，发布了那所谓的“内部录音”，致使粉丝信以为真。快手平台的“东东情感”表现得更为直接，假冒企业家售卖课程并招收徒弟。
账号背后存在完整产业链，淘宝名为“浙江智意AI”的店铺公然售卖AI换脸教程，价格为298元，承诺包教包会，闲鱼卖家“鼎建祥旗舰店”专门承接订单制作名人“拜年视频”，每个视频售价500元，在被查处之前，仅这家店铺便已承接了200多单。
编造火灾现场搅乱人心
于抖音上名为“巷子里的鱼”的账号发布了由AI生成的某商场火灾的图片，并且配上文字说明是“刚刚发生，伤亡不明”。而在快手平台上名为“朵姐正能量”的账号制作了工厂爆炸的视频，还标注着是“第一现场”。致使这些内容在本地的微信群之中疯狂传播，有居民特意跑到现场去进行确认，最终却发现商场那时正正常营业。
更为恶劣的是，“禾粟”的这个账号，还有“小猪猪”的这个账号，它们专门瞅准真实发生的火灾事件，借助AI生成出更为血腥的画面，然后发布到网络上，号称这是“独家内部画面”，这些虚假的视频将消防部门救援进度的查询给误导了，还占用了数量众多的公共资源。
AI魔改动画毒害孩子
B站有个账号叫“真难我知道” ，其借助AI 将《小马宝莉》改得很奇葩 ，竟然让里面的主角相互拿刀砍对方。抖音上有个账号叫“小奥特曼大智慧” ，该账号制作的奥特曼怀孕相关视频 ，播放量超过了3 0 0万 ，评论区里全都是小学生。百度有个账号叫“清崽影视” ，这个账号做得更过分 ，它用AI生成了几十部动画角色的暴力版本合集。
这些内容特别针对未成年人，制作者明白孩子爱看这类动画，蓄意用低俗惊悚内容吸引眼球，有家长称孩子看完这些视频后做噩梦，且模仿里面的暴力行为，被清理前，仅“小奥特曼大智慧”这个账号就发布了43条魔改视频。
卖去标识教程形成黑产
小红书有个叫“浪淘达人”的发了个帖子，分享怎样利用“豆包图片去水印神器”把AI标识去掉，这个帖子的收藏量超过了两万。淘宝上有个叫“浙江智意AI”的，它不但售卖教程，还提供一键去除标识的软件，其月销量突破了一千。拼多多上有个“南坤的店”，它的去标识教学视频更便宜，只要9块9还包邮。
这些卖家会给予售后服务，教导买家怎样绕开平台审核。他们所创建的QQ群里存在着800多个人，每天都在交流怎样能让AI内容看上去更为真实。闲鱼的“鼎建祥旗舰店”甚至于会提供定制服务，协助客户给AI生成的内容配上那所谓的“现场拍摄证明”。
在网信部门此次清理的那54.3万条信息当中，究竟有多少是你往昔刷到过并且还信以为真的？你于最近刷到过哪些会让你感觉不对劲的视频？在评论区说一说，咱们一块儿避开那些坑。
