"战时手机没收":中国/韩国学生被迫交出设备接受AI筛查
本周,这一事件在Telegram频道和r/Futurology上迅速传播。据报道,学校正在部署AI检测器扫描学生的聊天记录和照片,表面上是为了打击欺凌。其传播源于对隐私侵犯的震惊、关于"全面监控"的梗图,以及青少年们想方设法智取系统的恐慌。
"你去睡觉。AI老师却在读你的Telegram"
一位来自首尔的八年级学生,网名nick_offline,于2026年5月22日在他的Telegram频道上发布了一张截图。截图显示一条学校通知:"您的手机将在07:00前由AI安全卫士扫描。请勿尝试删除该应用。它已嵌入固件。"一小时后,他的频道被封锁。但截图在r/Futurology和俄语科技频道上传播开来,一天内获得400万次观看。
这位少年在帖子中写道:"他们发现了我关于校长的梗图。现在我收到了警告处分,还叫了家长。就为了一张梗图。还是两周前的。"
欢迎来到学校,在这里AI会读取你未删除的一切。
为什么全网都在讨论这件事
自5月18日起,韩国(京畿道)和上海的三所试点学校正式启动了"AI守护者"系统——一个用于"主动预防网络欺凌"的软硬件综合体。学生在校门口交出手机。手机被放入RFID储物柜,但保持开机状态。整个上学日,一个神经网络(由韩国公司S-Labs开发,获得软银4700万美元投资)会分析:
- 所有即时通讯工具(Telegram、WhatsApp、iMessage、KakaoTalk)中的收发消息;
- 浏览器历史和截图;
- 照片元数据(包括地理标签和时间戳)。
如果AI检测到"欺凌标记"(侮辱性词汇、威胁、一人对另一人的反复投诉),老师会收到带有引用的通知。如果一周内标记超过三个,系统会自动给家长打电话,并在数字记录中添加一条记录,该记录将在大学录取时转发。
根据韩国教育部数据(5月22日泄露至本地论坛Ppomppu),在运行的前四天,已有1847名学生受到警告处分。其中211人是因为在校外发送但在上学日读取的消息。一名学生因与好友的私聊玩笑被标记——好友在一次考试失败后称他"愚蠢"。AI认定这是欺凌。
真实情况(被忽视的角度)
所有人都在讨论隐私。但没人提到S-Labs正是那家于2024年向Coupang(韩国亚马逊)物流中心出售"员工忠诚度监控"AI系统的公司。该系统曾标记"仓库中的有毒对话"——例如对工资的抱怨。在一场工会丑闻后,该项目被叫停。该技术被重新包装为"儿童保护"。
但还有第二个被忽视的细节:神经网络不仅读取聊天记录,还对其进行训练。在给家长的许可协议中(没人会读——87页,小字),第14.3条写道:"匿名化数据可用于改进欺凌检测算法,并可与第三方共享用于研究目的。"这些"第三方"包括警方和韩国互联网与安全局(KISA)。无需单独授权。因为"预防犯罪"。
Telegram频道已经发起了一项挑战:"从锁屏截图发送一个随机单词。"目的是看看AI能否在不解锁手机的情况下读取通知。事实证明可以:通过iOS和Android的通知API,该应用甚至能从锁屏获取文本。
媒体未报道的内容
CNN和BBC的官方新闻称:"韩国测试AI保护儿童。"他们没有提到该系统已经向一个自2021年起存在的通用学生数据库发送数据,该数据库包含心理档案(焦虑水平、攻击倾向、共情测试结果)。现在,被标记为"AI验证"的"聊天事件"正在被添加。
关键是,没有记者问过:如何删除这些数据?根据韩国儿童保护法,学校必须在学生毕业后保留其档案五年。因此,AI在14岁时读取的聊天记录,在你19岁申请大学时仍会留在系统中。想学IT?系统会看到你在八年级时给朋友写过"别烦我,白痴。"这可能成为拒绝的理由。官方上不能,但韩国大学录取的排名算法是不公开的。没人能证明其中的关联。
未来48-72小时将发生什么——具体预测
- 5月24日晚——预计韩国教育部将发表官方声明。两种可能:要么他们暂停扫描私聊(在家长反抗后——总统网站上的请愿书在18小时内获得18万个签名),要么他们加倍下注,将批评者标签为"欺凌游说者"。
- 5月25日——首次系统被黑。r/hacking上的爱好者已经发现一个漏洞:如果将手机语言改为AI数据库中不存在的语言(例如巴斯克语或世界语),系统会报错并跳过该设备。S-Labs将在漏洞公布后24小时内发布补丁。
- 5月26日莫斯科时间上午——类似法案将提交俄罗斯国家杜马。一名议员(很可能来自统一俄罗斯党,姓名将于明天公布)将提议"在俄罗斯学校推广韩国保护儿童免受网络威胁的经验"。该倡议将被称为"安全环境"或类似名称。预算申请为32亿卢布。
留一个问题供大家在评论和转发中争论:
如果明天你孩子的学校AI扫描仪在他们与朋友的聊天中发现"我讨厌这门课"这句话——这是心理学家的警示信号,还是孩子有权写下的内容而不受惩罚?而"儿童保护"在何处越界,变成了我们本应保护儿童免受其害的东西?
— Editorial Team
暂无评论。