«To konfiskata telefonu w czasie wojny»: uczniowie w Chinach/Korei zmuszani do oddawania gadżetów do kontroli AI
Sprawa stała się wirusowa w tym tygodniu na kanałach Telegram i na r/Futurology. Podobno szkoły wdrażają detektory AI do sprawdzania korespondencji i zdjęć uczniów, rzekomo w celu walki z bullyingiem. Wirusowość wynika z szoku z powodu naruszenia prywatności i memów o „totalnej inwigilacji”, a także paniki nastolatków, którzy wymyślają sposoby na oszukanie systemu.
„Idziesz spać. A nauczyciel AI czyta twojego Telegrama”
Ósmoklasista z Seulu, nazywany w sieci tylko nick_offline, 22 maja 2026 roku opublikował na swoim kanale Telegram zrzut ekranu. Na nim – powiadomienie od szkoły: „Twój telefon zostanie zeskanowany przez AI Safety Guard do 07:00. Nie próbuj usuwać aplikacji. Jest w oprogramowaniu”. Godzinę później jego kanał został zablokowany. Ale zrzut ekranu rozszedł się po r/Futurology i rosyjskojęzycznych kanałach technologicznych, zdobywając 4 miliony wyświetleń w ciągu doby.
Nastolatek napisał w poście: „Znaleźli mojego mema o dyrektorze. Teraz mam naganę i telefon do rodziców. Za mema. Który ma dwa tygodnie”.
Witaj w szkole, gdzie AI czyta wszystko, czego nie usunąłeś.
Dlaczego mówi o tym cały internet
Od 18 maja w Korei Południowej (prowincja Gyeonggi) i trzech pilotażowych szkołach w Szanghaju oficjalnie uruchomiono system „AI Guardian” – kompleks programowo-sprzętowy do „proaktywnej walki z cyberbullyingiem”. Uczeń oddaje telefon przy wejściu do szkoły. Telefon umieszczany jest w komórce RFID, ale nie jest wyłączany. W ciągu dnia szkolnego sieć neuronowa (opracowana przez koreańską firmę S-Labs, inwestycje od SoftBank – 47 mln USD) analizuje:
- wszystkie przychodzące i wychodzące wiadomości w komunikatorach (Telegram, WhatsApp, iMessage, KakaoTalk);
- historię przeglądarki i zrzuty ekranu;
- metadane zdjęć (w tym geotagi i czas wykonania).
Jeśli AI znajdzie „markery bullyingu” (poniżające słowa, groźby, powtarzające się skargi od jednej osoby do drugiej), nauczyciel otrzymuje powiadomienie z cytatem. Jeśli „markerów” jest więcej niż trzy w tygodniu – automatyczny telefon do rodziców i wpis w cyfrowym dzienniku, który jest przekazywany przy rekrutacji na studia.
Według danych koreańskiego Ministerstwa Edukacji (wyciekły 22 maja na lokalne forum Ppomppu), przez 4 dni działania systemu 1847 uczniów otrzymało nagany. Z tego 211 – za wiadomości wysłane poza szkołą, ale przeczytane w czasie dnia szkolnego. Jeden uczeń – za żart w prywatnej rozmowie z najlepszym przyjacielem, gdzie nazwał go „głupim” po oblanej klasówce. AI uznało to za bullying.
Co naprawdę się dzieje (nieoczywisty kąt)
Wszyscy dyskutują o prywatności. Ale milczą o tym, że S-Labs to ta sama firma, która w 2024 roku sprzedawała system AI do „monitorowania lojalności pracowników” w centrach logistycznych Coupang (koreański Amazon). Tam system wykrywał „toksyczne rozmowy w magazynie” – na przykład skargi na pensję. Po skandalu związkowym projekt zamknięto. Technologię przepakowano w „ochronę dzieci”.
Ale jest druga nieoczywista kwestia: sieć neuronowa nie tylko czyta korespondencje. Uczy się na nich. W umowie licencyjnej dla rodziców (nikt nie czyta, 87 stron, drobny druk) punkt 14.3 głosi: „Zanonimizowane dane mogą być wykorzystane do ulepszania algorytmów wykrywania bullyingu i przekazane stronom trzecim w celach badawczych”. „Strony trzecie” to policja i koreańska Agencja Bezpieczeństwa Internetowego (KISA). Bez osobnego nakazu. Ponieważ „zapobieganie przestępstwom”.
Kanały Telegram już uruchomiły wyzwanie: „Wyślij jedno losowe słowo ze zrzutu ekranu blokady”. Zadanie – sprawdzić, czy AI może odczytać powiadomienia bez odblokowania. Okazało się, że może: przez API powiadomień iOS i Android aplikacja otrzymuje tekst nawet na zablokowanym ekranie.
Czego media nie dopowiadają
Oficjalne wiadomości w CNN i BBC mówią: „Korea Południowa testuje AI do ochrony dzieci”. Nie mówią, że system już wysyła dane do wspólnej bazy uczniów, która istnieje od 2021 roku i zawiera profile psychologiczne (poziom lęku, skłonność do agresji, wyniki testów empatii). Teraz dodawane są do niej „incydenty w korespondencjach” z adnotacją „zweryfikowane przez AI”.
I co najważniejsze – żaden dziennikarz nie zapytał: jak usuwać te dane? Zgodnie z koreańskim prawem o ochronie dzieci, szkoła ma obowiązek przechowywać profil ucznia przez 5 lat po ukończeniu szkoły. Czyli korespondencja, którą AI przeczytało w wieku 14 lat, będzie wisieć w systemie, gdy masz 19 lat i składasz dokumenty na studia. Chcesz dostać się na IT? System widzi, że w 8 klasie napisałeś do kolegi „odczep się, idioto”. To może być powodem odmowy. Formalnie – nie może, ale algorytm rankingu kandydatów na koreańskich uczelniach jest zamknięty. Nikt nie udowodni związku.
Co będzie w ciągu najbliższych 48-72 godzin – konkretna prognoza
- 24 maja, wieczór – spodziewane oficjalne oświadczenie Ministerstwa Edukacji Korei. Dwa scenariusze: albo wstrzymają skanowanie prywatnych czatów (po buncie rodziców – petycja na stronie prezydenta zebrała 180 tys. podpisów w 18 godzin), albo podwoją wysiłki, nazywając krytyków „lobbystami bullyingu”.
- 25 maja – pierwsze włamanie do systemu. Entuzjaści na r/hacking już znaleźli lukę: jeśli w ustawieniach telefonu zmienić język na taki, którego nie ma w bazie AI (np. baskijski lub esperanto), system zgłasza błąd i przepuszcza urządzenie bez kontroli. S-Labs wyda łatkę w ciągu 24 godzin od publikacji exploita.
- 26 maja, rano czasu moskiewskiego – analogiczny projekt ustawy zostanie wniesiony do Dumy Państwowej FR. Deputowany (prawdopodobnie z Jednej Rosji, nazwisko pojawi się jutro) zaproponuje „rozpowszechnienie koreańskiego doświadczenia ochrony dzieci przed cyberzagrożeniami w rosyjskich szkołach”. Inicjatywa będzie nazywać się „Bezpieczne środowisko” lub coś podobnego. Budżet poproszą o 3,2 mld rubli.
Jedno pytanie, które wam zostawię, abyście poszli się kłócić w komentarzach i udostępniać:
Jeśli jutro w szkole waszego dziecka skaner AI znajdzie w jego korespondencji z przyjacielem frazę „nienawidzę tej klasy” – to sygnał alarmowy dla psychologa czy po prostu coś, co dziecko ma prawo napisać bez konsekwencji? I gdzie jest ta granica, po której „ochrona dzieci” zamienia się w to, przed czym rzekomo dzieci chronimy?
— Editorial Team
Brak komentarzy.