此次,网信部门是实实在在地采取行动了,有13421个账号被封禁,54.3万条信息被清理,AI造假这一回是真的惹上麻烦了,狗在高铁站救助婴儿、奥特曼怀有身孕、鳄鱼伤人,这些荒诞不经的视频背后全都是AI在作祟。
狗熊救人全是AI编造
微博名为“澄馫”的账号,发布了狗于高铁站救下婴儿的那个视频,其播放量达到了高达数百万的程度。快手账号“玲子爱狗狗”的情况更为夸张,它呈现的是让狗去拆炸弹从而救人的内容,而评论区居然真的有人相信了。哔哩哔哩账号“空空说电影”所制作出来的是鳄鱼伤人的视频,此视频把不少网友吓得晚上都不敢出门了。
这群视频制作者均采用了同一计策,将借助AI生成的内容当作真实发生的事件予以发布,且未作任何AI标识的标注,他们所看重的便是这类表述易于引发转发,一条相应视频能够带来达几万块钱的流量收益,在被处置以前,单单“玲子爱狗狗”这一账号就发布了27条相似的内容。
AI换脸冒充名人赚钱
“浮萍9419”这个微信用户,运用AI换脸技术将自身变为某知名竞赛人员,于开展直播期间蓄意讲出一些存在争议的话语。“乘风已归来”这个微博账号,复制了三位节目主持人的嗓音,发布了那所谓的“内部录音”,致使粉丝信以为真。快手平台的“东东情感”表现得更为直接,假冒企业家售卖课程并招收徒弟。
账号背后存在完整产业链,淘宝名为“浙江智意AI”的店铺公然售卖AI换脸教程,价格为298元,承诺包教包会,闲鱼卖家“鼎建祥旗舰店”专门承接订单制作名人“拜年视频”,每个视频售价500元,在被查处之前,仅这家店铺便已承接了200多单。
编造火灾现场搅乱人心
于抖音上名为“巷子里的鱼”的账号发布了由AI生成的某商场火灾的图片,并且配上文字说明是“刚刚发生,伤亡不明”。而在快手平台上名为“朵姐正能量”的账号制作了工厂爆炸的视频,还标注着是“第一现场”。致使这些内容在本地的微信群之中疯狂传播,有居民特意跑到现场去进行确认,最终却发现商场那时正正常营业。
更为恶劣的是,“禾粟”的这个账号,还有“小猪猪”的这个账号,它们专门瞅准真实发生的火灾事件,借助AI生成出更为血腥的画面,然后发布到网络上,号称这是“独家内部画面”,这些虚假的视频将消防部门救援进度的查询给误导了,还占用了数量众多的公共资源。
AI魔改动画毒害孩子
B站有个账号叫“真难我知道” ,其借助AI 将《小马宝莉》改得很奇葩 ,竟然让里面的主角相互拿刀砍对方。抖音上有个账号叫“小奥特曼大智慧” ,该账号制作的奥特曼怀孕相关视频 ,播放量超过了3 0 0万 ,评论区里全都是小学生。百度有个账号叫“清崽影视” ,这个账号做得更过分 ,它用AI生成了几十部动画角色的暴力版本合集。
这些内容特别针对未成年人,制作者明白孩子爱看这类动画,蓄意用低俗惊悚内容吸引眼球,有家长称孩子看完这些视频后做噩梦,且模仿里面的暴力行为,被清理前,仅“小奥特曼大智慧”这个账号就发布了43条魔改视频。
卖去标识教程形成黑产
小红书有个叫“浪淘达人”的发了个帖子,分享怎样利用“豆包图片去水印神器”把AI标识去掉,这个帖子的收藏量超过了两万。淘宝上有个叫“浙江智意AI”的,它不但售卖教程,还提供一键去除标识的软件,其月销量突破了一千。拼多多上有个“南坤的店”,它的去标识教学视频更便宜,只要9块9还包邮。
这些卖家会给予售后服务,教导买家怎样绕开平台审核。他们所创建的QQ群里存在着800多个人,每天都在交流怎样能让AI内容看上去更为真实。闲鱼的“鼎建祥旗舰店”甚至于会提供定制服务,协助客户给AI生成的内容配上那所谓的“现场拍摄证明”。
在网信部门此次清理的那54.3万条信息当中,究竟有多少是你往昔刷到过并且还信以为真的?你于最近刷到过哪些会让你感觉不对劲的视频?在评论区说一说,咱们一块儿避开那些坑。


