精神污染、猎奇恐怖、算法赌博的黑暗循环

作者｜Moonshot

编辑｜靖宇

先上一张图，这是一组 AI 生成视频的封面，如果你看到这些图片就已经感到不适，再细想一下，这要是你随手下滑，自动播放的短视频呢？

如果你看这张图已经不适，你最好不要再点击下面的视频｜图源：404 Media

，时长00:11

上图的每一张封面，可能都是一条这类视频。10 秒左右，前几秒是平淡无奇地日常，画风突变后，AI 生成出一幅极其诡异的景象，最终停留在让人不寒而栗的一帧。

该视频 Instagram 上观看量达到 3.62 亿，收获 349 万赞。

这种传播量意味着它作为爆火内容，会跳出算法随机推送给用户，如果你不小心刷到了，好奇心让你多看了一会儿，而后又过于震惊，以至于没有快速划走，那算法会把你推向 AI 生成视频的深渊。

那里是一个人类利用 AI 生成出的恐怖谷，将给你造成极大的精神污染，毁掉你的上网体验。

01

精神污染的“AI 深渊”

发布这条“蜘蛛长颈鹿人”的短视频博主的主页里，全是类似视频，这也让他在建号 2 个月时间里，收获了 12 万的关注者，和上万美金的平台收入。

想象一下，有成千上万的类似账户每天产出数十条这类视频，再投放到各大短视频平台里。

这类视频都有着“AI 生成，十秒左右，画风突变，精神污染”的共性，这些人只要调教好对 AGI 视频模型的提示词和参数，可能在你被吓到之前，他们就诞生了一条新“作品”。

该账号其他内容｜图源：Instagram

而这类视频和其他 AI 短视频不同之处在于：在画面上极度诡谲和猎奇。它已经跳出了 AI 和现实擦边的恐怖谷，而是在普通的生活场景里，突然让人畸变，长出异常的肢体，变成不可名状的怪物，

不同于人类导演精心编排的恐怖片，AI 生成的视频是一种“无意的恐怖”，比刻意制造的恐怖更令人不安，因为它没有任何轨迹可以预判。

在看这些内容时，它超出了人类的理性认知，我们会不自觉地感到“这个东西不应该存在”。

而这类视频的本质就是触发你深层的不适和惊悚感，瞬间让你大脑短路，甚至不敢点击屏幕把视频划走。

猎奇成人内容也是一大主题｜图源：Instagram

在 404 Media 报道这种乱象的文章里，作者 Jason Koebler 把这种用 AI 生成内容，去赌算法推荐的方法比喻成“暴力破解”。

这些视频制作者的目的并不针对个人，而是为了操纵平台算法。利用 AI，他们可以批量生成并投放内容，不断试探流量机制，总有一条能钻进流量的缝隙，一旦某条视频被推爆，更多同类视频就会接连涌入，形成恶性循环。

哪怕平台快速出手，把这类猎奇视频限流。但这些人换一批提示词，又可以开始新一轮“流量赌博”。因为 AI 生产内容太快了，远远快过人类创作和平台的算法变化，无论平台怎么调整，都会面临政策赶不上对策的窘境。

人类创作者需要研究平台算法、策划选题、拍摄制作，耗时耗力耗钱制作出一条优质视频。AI 分秒钟生产数十条垃圾视频，发到平台上不火也没关系，马上再上传几十条。

人类用质量换流量，AI 只需要用数量。

就像一位密码学家正在绞尽脑汁研究密码算法时，AI 已经把 00000 到 99999 的 10 万种可能性都试过了，总有一个对的，这就是最简单的“暴力破解”。

与此同时，由于 AI 生成内容的泛滥，让真正由人类创作的内容越来越难以被发现。低质量、假信息占据了用户的信息流，不管是创作生态还是平台内容，都往劣币驱逐良币的方向滑落。

至此，视频制作者获得了流量，每一个刷到视频的用户受到精神污染，整个内容平台被这些猎奇、低质的 AI 生成内容所侵蚀。

只有这些毫无底线利用 AI 的人赢了。然而流量带来的快钱，正在驱使越来越多的人加入这个行当。

02

流量和财富密码

Jason Koebler 每天都会收到一个 17 岁的 YouTuber Daniel Bitton 的营销邮件。

点开这名 YouTuber 的主页，他有 11.7 万订阅者，最火的一条视频《我复制粘贴一个 YouTube 频道，让我每个月赚到 10 万美元》有 74 万播放量。这条视频的主旨就是：雇人作内容太贵了，我们决定用 AI 复制爆火视频。

小伙另一个爆火视频是《16 岁的我如何成为百万富翁》｜图源：YouTube

于是他随便修改一下爆火科普视频的脚本，再加一些争议性话题比如《亚洲人为什么眼睛小》，配上 AI 制作的惊悚动画，大量投放到各大短视频平台，不火就马上调整选题，加入更多争议要素。

而 Bitton 营销邮件就是卖他这套“成功公式”，他在邮件里写道“花时间制作高质量的 YouTube 视频在经济上没有意义，其他人花 5-6 个小时制作一个『完美』的视频，我们不到半小时就能做出 8-10 条短视频。”或是“YouTube 短视频的算法已经坏了，现在正是用 AI 短视频来利用这个漏洞最佳时机。”

Bitton 的引路人是 Mustafa，去年 Mustafa 就靠同样的玩法赚到百万美金。如今他已经“产业升级”，靠出售 AI 工具和营销服务赚钱，他的付费社区共有 80000 名会员，40 美元/月的会费。这还只是学习 Mustafa 理论的价格，实操工具又是另一个费用。

具体到这条产业链上，他们出售的 AI 工具有 AI 视频文案模版，AI 语音和自动剪辑，TikTok 账号批量管理，他们甚至开发出了绕过 TikTok 版权检测的工具，可以自动抓取 YouTube 片段转制成短视频。

任何人都能几分钟内批量生产垃圾短视频｜图源：Crayo.ai

以最受社区推崇的 Crayo.ai 为例，该平台号称“一次制作出无限短视频”，提供了各类专门迎合 TikTok 算法的内容模板，比如“无真人出镜内容”、“Reddit 故事改编”以及“科普解说短视频”。

从内容抓取到配音剪辑，再到一次性大量上传，Crayo.ai 可以让 AI 短视频生产流程全自动化，10 秒钟就能做出来一条 1 分钟的短视频，基础套餐只需要 19 美元（约 140 元），每月提供 20 条 AI 短视频。

而 Mustafa 在社区里直言“在 TikTok 上起号最简单和最常见的方法，就是从著名内容创作者和热门长视频里抄内容，重新剪辑后上传。”

03

算法和数据思维的挑战

抄袭其他创作者，猎奇视频恐吓用户，无限投放 AI 制造的垃圾内容……这些乱象难道平台方就坐视不管吗？

TikTok 暂未有明显动作，但 Meta 不仅放任这些内容泛滥，还在助长这一现象。

去年，马克·扎克伯格在投资者会议里就提到“AI 帮助人们创作，能让用户刷短视频的体验更好……我们将增加一个全新的内容类别：AI 制作。”

Meta 甚至调高了用户信息流里 AI 内容的比重，同时把 AI 制作工具卖给广告商，他们推出的 Advantage+ 服务能让广告商一次性生成 50 条广告，再投放到平台里去赌算法推荐。

Meta 提供的一站式 AI 创作服务｜图源：Meta

扎克伯格秉持着“AI 生成内容是趋势，用户终将会习惯”的立场也不奇怪。根据 Meta 去年的数据显示，AI 内容大量注入平台后，用户在 Facebook 留存时间增加了 8%，Instagram 增加了 6%。

对 Meta 来说，只要 AI 能带来更多流量和广告收入，AI 垃圾内容的泛滥就不是问题，反而是内容平台紧随 AI 趋势的进化，如果用户对 AI 生成的内容不满，那是他们跟不上时代，不是平台的问题。平台的首要目标是有源源不断的视频上传带来流量，有流量就有广告商，从而创造营收。

的确如此，文章开头那条视频带来了 3.62 亿的播放量，哪怕评论区有大量用户评论表达了厌恶、反感、不适，但就像互联网的流量定律：负面内容越极端，评论和转发就越多，算法就越爱它。

扭曲畸形的婴儿、拟人化的畸变动物、深度伪造的名人影像、披着科普外衣的阴谋论……这些原本只会在特定圈子内流传的猎奇内容，如今被 AI 工具批量复制，投放到大众化的社交平台。

上面爆火视频的某条留言｜图片来源：网络截图

就像开头视频下方点赞破千的评论所写：某人的奶奶肯定会觉得这视频是真的。

这让未来的社交媒体，可能不再是人与人之间的交流平台，而是一个赌场，AI 垃圾制造者在赌平台算法，用户在赌下一条视频，不会给自己造成精神污染，平台在赌自己能在流量和内容崩坏之间找到盈利的平衡。

而如果事情走向极端，这可能会导向一个 AI 生成内容主导，人类创作沦为边缘，真假信息难以辨别，用户被垃圾内容“Mindfxxk”的互联网时代。

现在不少平台已经要求创作者，在 AI 生成内容上标明“AI 制造”的标签，但或许人们需要一个更细分、更周详地对于 AI 生成内容的规范，来保护“不明真相”的用户。

至少，对于因为写下稿件，而被这些 AI 噩梦折磨了一周的我来说，就非常需要一个“一键屏蔽 AI 内容”的按钮。而读这篇稿件的你，也同样需要。

文章参考：https://www.404media.co/ai-slop-is-a-brute-force-attack-on-the-algorithms-that-control-reality/?ref=daily-stories-newsletter

https://www.404media.co/inside-the-world-of-tiktok-spammers-and-the-ai-tools-that-enable-them/

*头图来源：TikTok、Instagram

本文为极客公园原创文章，转载请联系极客君微信 geekparkGO