„Toto je zabavení telefonu za války“: Studenti v Číně/Koreji jsou nuceni odevzdávat zařízení ke kontrole AI
Případ se tento týden stal virálním na Telegramových kanálech a r/Futurology. Uvádí se, že školy zavádějí AI detektory pro kontrolu korespondence a fotografií studentů, údajně kvůli boji proti šikaně. Viralitu způsobilo šok z narušení soukromí a memy o „totálním sledování“, stejně jako panika teenagerů, kteří vymýšlejí způsoby, jak systém oklamat.
„Jdeš spát. A AI učitel čte tvůj Telegram“
Osmák ze Soulu, kterého na internetu nazývají pouze nick_offline, 22. května 2026 zveřejnil na svém Telegramovém kanálu screenshot. Na něm je oznámení od školy: „Váš telefon bude naskenován AI Safety Guard do 07:00. Nepokoušejte se smazat aplikaci. Je ve firmwaru.“ O hodinu později byl jeho kanál zablokován. Ale screenshot se rozšířil na r/Futurology a ruskojazyčné technické kanály a nasbíral 4 miliony zhlédnutí za den.
Teenager v příspěvku napsal: „Našli můj mem o řediteli. Teď mám důtku a volání rodičům. Za mem. Který je starý dva týdny.“
Vítejte ve škole, kde AI čte všechno, co jste nesmazali.
Proč o tom mluví celý internet
Od 18. května v Jižní Koreji (provincie Kjonggi) a ve třech pilotních školách v Šanghaji oficiálně spuštěn systém „AI Guardian“ – softwarově-hardwarový komplex pro „proaktivní boj proti kyberšikaně“. Student odevzdá telefon při vstupu do školy. Telefon je umístěn do RFID buňky, ale nevypíná se. Během školního dne neuronová síť (vyvinutá korejskou firmou S-Labs, investice od SoftBank – 47 milionů USD) analyzuje:
- všechny příchozí a odchozí zprávy v messengerech (Telegram, WhatsApp, iMessage, KakaoTalk);
- historii prohlížeče a screenshoty;
- metadata fotografií (včetně geotagů a času pořízení).
Pokud AI najde „markery šikany“ (ponižující slova, výhrůžky, opakované stížnosti od jedné osoby k druhé), učitel obdrží oznámení s citací. Pokud je „markerů“ více než tři za týden – automatický hovor rodičům a záznam do digitálního deníku, který se předává při přijetí na vysokou školu.
Podle údajů korejského ministerstva školství (unikly 22. května na místní fórum Ppomppu) za 4 dny provozu systému dostalo důtku 1 847 studentů. Z toho 211 za zprávy odeslané mimo školu, ale přečtené během školního dne. Jeden student za vtip v osobním chatu s nejlepším kamarádem, kde ho nazval „tupým“ po neúspěšném testu. AI to považovala za šikanu.
Co se skutečně děje (ne zřejmý úhel)
Všichni diskutují o soukromí. Ale mlčí o tom, že S-Labs je stejná společnost, která v roce 2024 prodávala AI systém pro „monitorování loajality zaměstnanců“ v logistických centrech Coupang (korejský Amazon). Tam systém odhaloval „toxické rozhovory na skladě“ – například stížnosti na plat. Po odborovém skandálu byl projekt uzavřen. Technologii přebalili do „ochrany dětí“.
Ale je tu druhá ne zřejmá podrobnost: neuronová síť nejen čte korespondenci. Učí se na ní. V licenční smlouvě pro rodiče (nikdo nečte, 87 stran, drobné písmo) bod 14.3 říká: „Anonymizovaná data mohou být použita pro zlepšení algoritmů odhalování šikany a předána třetím stranám pro výzkumné účely.“ „Třetí strany“ jsou policie a Korejská agentura pro internetovou bezpečnost (KISA). Bez samostatného příkazu. Protože „prevence zločinů“.
Telegramové kanály již spustily výzvu: „Pošli jedno náhodné slovo ze screenshotu zamykací obrazovky.“ Úkolem je zjistit, zda AI může přečíst oznámení bez odemknutí. Ukázalo se, že může: prostřednictvím API oznámení iOS a Android aplikace získává text i na zamčené obrazovce.
Co média nedokončují
Oficiální zprávy na CNN a BBC říkají: „Jižní Korea testuje AI na ochranu dětí.“ Neříkají, že systém již odesílá data do společné databáze studentů, která existuje od roku 2021 a obsahuje psychologické profily (úroveň úzkosti, sklon k agresi, výsledky testů empatie). Nyní se přidávají „incidenty v korespondenci“ s poznámkou „ověřeno AI“.
A hlavně – žádný novinář se nezeptal: jak tato data smazat? Podle korejského zákona o ochraně dětí je škola povinna uchovávat profil studenta 5 let po absolvování. To znamená, že korespondence, kterou AI přečetl ve 14 letech, bude viset v systému, když vám bude 19 a budete podávat přihlášku na univerzitu. Chcete se dostat na IT? Systém vidí, že jste v 8. třídě napsali kamarádovi „nech mě být, idiote“. To může být důvodem k odmítnutí. Formálně nemůže, ale algoritmus hodnocení uchazečů na korejských univerzitách je uzavřený. Nikdo neprokáže souvislost.
Co bude v následujících 48–72 hodinách – konkrétní předpověď
- 24. května večer – očekává se oficiální prohlášení korejského ministerstva školství. Dva scénáře: buď pozastaví skenování osobních chatů (po vzpouře rodičů – petice na webu prezidenta nasbírala 180 tisíc podpisů za 18 hodin), nebo zdvojnásobí úsilí a označí kritiky za „lobbisty šikany“.
- 25. května – první hacknutí systému. Nadšenci na r/hacking již našli zranitelnost: pokud v nastavení telefonu změníte jazyk na ten, který není v databázi AI (například baskičtinu nebo esperanto), systém vyhodí chybu a zařízení projde bez kontroly. S-Labs vydá patch do 24 hodin po zveřejnění exploitu.
- 26. května ráno moskevského času – obdobný návrh zákona bude předložen Státní dumě RF. Poslanec (pravděpodobně z Jednotného Ruska, jméno se objeví zítra) navrhne „rozšířit korejskou zkušenost ochrany dětí před kybernetickými hrozbami v ruských školách“. Iniciativa se bude jmenovat „Bezpečné prostředí“ nebo něco podobného. Rozpočet požádá o 3,2 miliardy rublů.
Jedna otázka, kterou vám zanechám, abyste šli diskutovat do komentářů a repostů:
Pokud zítra ve škole vašeho dítěte skener AI najde v jeho korespondenci s kamarádem frázi „nenávidím tuhle třídu“ – je to varovný signál pro psychologa, nebo prostě to, co má dítě právo napsat bez následků? A kde je ta hranice, po které se „ochrana dětí“ promění v to, před čím máme děti údajně chránit?
— Editorial Team
Zatím žádné komentáře.