【智网文摘】“低质量内容”:这就是互联网与由人工智能生成的各种垃圾内容之间的斗争

2026-08-23

20260823

来自时代报El Tiempoy的报道:

原文参见:https://www.eltiempo.com/tecnosfera/novedades-tecnologia/slop-asi-lucha-internet-con-el-contenido-basura-creado-con-inteligencia-artificial-3578818

我们已经在数月、甚至可能是一年的时间里,目睹了我们的社交媒体如何充斥着用人工共情撰写的帖子、由所谓并不存在的僧侣提供的健康建议,以及由合成面孔呈现的政治阴谋论视频等等。这些由不存在的专家呈现的内容洪流——甚至已出现在幽默领域——远非孤立现象,而是一场名为“AI slop”(即数字垃圾食品)的流行病的一部分:通过人工智能(IA)大规模生成的低质量内容,唯一目的就是获取点击量、欺骗算法,并从用户的注意力中获利。

这一现象背后的行业,悖论般地利用了技术潜力来黑入MetaInstagramFacebookThreads)、TikTokYouTube等大型数字社交平台。垃圾内容的入侵已增长到相当大的规模。Pangram近期的一项研究显示,LinkedIn上发布的长文本中高达41%完全由算法生成。这一情况迫使该职业社交平台启用了一项功能,让用户可以将帖子标记为“AI垃圾这看起来像AI slop”),该功能将很快在该社交网络运营的所有国家上线。这对LinkedIn来说颇具讽刺意味,因为两年来该平台一直在推广自动撰写工具,如今却不得不向社区寻求帮助,以清理这些已充斥网络的合成信息。

问题远不止枯燥的文字;在YouTube等视频平台上,这代表着一项价值数百万美元的生意。Kap-wing等公司近期研究和分析指出,新用户收到的推荐内容中有超过20%属于低价值的自动化内容。YouTube上已检测到自动化频道网络,这些频道使用合成画外音和图像来传播耸人听闻的叙事或战略性虚假信息,在被封禁前积累了数十亿次观看量。在有记录以来最大规模的清理行动中,该平台取消了这些频道的变现资格并予以删除,这些频道通过这种手段每年产生约1000万美元的收入。

Instagram上,这种动态直接诉诸于对消费者的操纵。关于协同网络的研究发现,2026年出现了数百个以虚构身份创建的账户——从所谓的阿米什草药师到根本不存在的传统医生——其设计结构与AI slop如出一辙。这些档案之间相互互动以欺骗系统,尤其是Meta的算法——该算法在FacebookInstagram上都会奖励所谓账户间的有机互动,从而获得知名度并推销没有科学依据的数字指南或膳食补充剂,这表明大规模自动化正试图利用公众在健康等敏感话题上的善意。问题在于,大企业采取的一些行动最终可能会影响到那些使用FacebookInstagramTikTokYouTube进行真实业务的真实企业和创业项目。例如,由于无法手动审查每天数以百万计的帖子,科技公司已开始扼杀经济激励。YouTubeMeta已收紧政策,对表现出虚假或自动化模式的账户撤下广告收入。与此同时,欧盟委员会通过《数字服务法》(DSA)施加的监管压力,要求公司避免放大那些助长平台成瘾性设计的欺骗性算法内容。

如何识别“AI slop”?对于图像完美但千篇一律的档案,要警惕那些过于逼真、没有自然瑕疵且故事前后不一致的面孔;对于平淡且重复的语言,要留意总是以相同模式构建的文本(过多列表、居高临下的语气以及不提供真实背景的明显结论);对于没有来源的极端叙事,要警惕那些试图在政治或健康话题上迅速激起愤怒、却不引用官方机构的视频或帖子。

编辑:姚少杰

校对:康晨雨

                      科讯搜寻:兰吉

本文使用ChatGPT辅助翻译,内容服务于中拉科技互鉴,不代表平台观点,如有疏漏,欢迎指正。

 


智网互联实验室

实验室总部

 

地址:哥伦比亚考卡山谷省卡利市Calle 5 # 62-00, 圣地亚哥卡利大学7号教学楼6层22室

电话:+57 602 5183000 ext. 9208

邮箱:info@nuxlabs.org

微信公众号

天津工作站(科普基地)

 

地址:天津市西青区宾水西道391号7号楼4层

电话:+86 22 60216176

邮箱:info@nuxlabs.org

友情链接 : 中国科学技术协会   天津市科学技术协会   VR中国   中国计算机学会   中国通信学会   圣地亚哥卡利大学分站点