# 互联网还活着吗?剖析全球网络中的机器人流量和人工智能生成内容
如今的互联网越来越像一个模拟世界:机器人和人工智能算法生成的大部分内容。数据证实了这一点:自动化流量已超过真人用户活动,注意力经济已围绕机器生成的内容重构。对于 IT 专业人士来说,这不是什么阴谋论——而是对基础设施和数据质量的真正挑战。
机器人和 AI 爬虫:不加糖衣的统计数据
根据 Imperva 的报告,2024 年自动化流量首次超过真人用户活动(占总量的 51%)。恶意机器人占流量 37%——连续六年增长。最关键的趋势是 AI 爬虫的爆炸式崛起:Cloudflare 数据显示,其流量在 2024 年激增 757%,到 2025 年初每天达到 500 亿次请求。
关键问题是爬取目的的转变。用于模型训练的请求占比从 72%(2024 年 7 月)跃升至 79%(2025 年 7 月),而搜索爬取则从 26% 降至 17%。机器在吞噬网络,不是为了帮助用户,而是为了自主训练其内容。Anthropic 的爬取与引流流量比(25,000:1–100,000:1)凸显了这种失衡:AI 系统消费内容,却几乎不回馈流量。对于出版商来说,这就像免费赠送数据。
网站所有者的反应可想而知:Cloudflare 上超过 80% 的站点现在屏蔽 AI 机器人。但其中 13.26% 的机器人无视 robots.txt 指令——是 2024 年的两倍。这造成技术困境:服务器负载暴增,流量账单飙升,小站点不堪重负而崩溃。
AI 如何接管搜索结果
ChatGPT 推出后,生成可信文本的成本降至零。内容农场抛弃廉价文案,转用 GPT,大量产出不是给人读的文本,而是为了被索引。Google 通过更新(Panda、Penguin)反击,但这是一场军备竞赛:生成技术演进快于过滤器。
症状显而易见。用户在查询中加“site:reddit.com”来找真人观点。在 Habr 等平台,常见问题是:多少帖子是纯人工写的,对比多少是 AI 生成后轻微编辑?我们甚至在问这个问题,就已证实问题的规模。AI 内容常暴露破绽:套话、逻辑漏洞、虚构来源。
社交媒体中的算法回音室
社交网络的 chronological feeds 已成历史。Instagram、Facebook、Twitter、TikTok 和 VK 通过算法挑选内容,以最大化用户停留时间。结果?回音室,用户互动的不是真实互联网,而是一个预测模型。即使人工内容,也被机器过滤,制造出死气沉沉的空间感。
构建这些系统需要精密的推荐算法,针对互动指标调优。这推动内容趋同:相同趋势同时淹没各平台,抹杀本地特色。开发者在设计互动系统时,必须考虑算法过滤。
Astroturfing:假意见工厂
Astroturfing——伪造草根意见——已成为大生意。鲜明例子:2017 年,FCC 收到 2200 万条网络中立评论,其中近 1800 万条是假的(使用真人姓名,甚至已故者)。纽约州总检察长的调查证实,提供商出资操办。
在俄罗斯网络中,类似操作通过 Telegram 频道进行,用僵尸账号刷反应。这是一个完整产业,有价目表和批量交易。技术层面涉及海量账号创建、代理和脚本同步行动。IT 专业人士需警醒:这些设置借助现代自动化工具轻松扩展。
反方观点:真人互联网的生机勃勃之地
关掉你的新闻源。潜入私人 Telegram 聊天、Discord 服务器、专业论坛——那里生机勃勃。“死互联网”只打击公共空间;私人角落活力四射。而且,有些“机器人行为”只是人类懒惰:用表情符号代替评论,无脑转帖 meme。
对早期互联网“绿洲”的怀旧扭曲了我们的视角:网络主流化,意味着大众化。私密空间保留了多样性。开发者启示:问题固定在公共平台,而私人通信工具仍在进步。
真实发生的事
问题真实存在——无阴谋。四大事势助长“死互联网”氛围:
- 注意力经济渴求无尽内容,AI 以极低成本供应。点击量胜过质量。
- 平台垄断:少数公司主导在线互动,为盈利塑形。
- 算法过滤把关甚至人工聊天,策划用户所见。
- 生成式 AI摧毁最后障碍——说服力文本、图像、视频的成本。
关键要点
- 自动化流量超 50%——Imperva 和 Cloudflare 证实。
- AI 爬虫爆炸式增长,霸占模型训练却零流量回报出版商。
- 搜索结果塞满 AI 垃圾,用户转向替代品。
- 回音室和 astroturfing 扭曲舆论,但私人空间仍活跃。
- 解决方案需技术(机器人屏蔽)加网络经济重思。
— Editorial Team
暂无评论。