„Handy-Beschlagnahme während des Krieges“: Schüler in China/Südkorea müssen Geräte für KI-Screening abgeben
Der Fall ging diese Woche auf Telegram-Kanälen und r/Futurology viral. Schulen setzen angeblich KI-Detektoren ein, um Chats und Fotos der Schüler zu scannen – angeblich zur Bekämpfung von Mobbing. Die Virilität rührt von der Empörung über Datenschutzverletzungen, Memes über „totale Überwachung“ und der Panik von Teenagern, die Wege suchen, das System auszutricksen.
„Du gehst schlafen. Und die KI-Lehrerin liest dein Telegram“
Ein Achtklässler aus Seoul, online nur als nick_offline bekannt, postete am 22. Mai 2026 einen Screenshot auf seinem Telegram-Kanal. Er zeigte eine Schulmitteilung: „Ihr Telefon wird vor 07:00 Uhr von AI Safety Guard gescannt. Versuchen Sie nicht, die App zu löschen. Sie ist in der Firmware eingebettet.“ Eine Stunde später war sein Kanal gesperrt. Aber der Screenshot verbreitete sich auf r/Futurology und russischsprachigen Tech-Kanälen und erzielte an einem Tag 4 Millionen Aufrufe.
Der Teenager schrieb in seinem Beitrag: „Sie haben mein Meme über den Direktor gefunden. Jetzt habe ich einen Verweis und einen Anruf bei meinen Eltern. Für ein Meme. Von vor zwei Wochen.“
Willkommen in der Schule, wo die KI alles liest, was du nicht gelöscht hast.
Warum das ganze Internet darüber spricht
Seit dem 18. Mai haben Südkorea (Provinz Gyeonggi) und drei Pilotschulen in Shanghai offiziell das System „AI Guardian“ eingeführt – einen Hardware-Software-Komplex zur „proaktiven Cybermobbing-Prävention“. Die Schüler geben ihre Handys am Schuleingang ab. Das Telefon wird in ein RFID-Schließfach gelegt, bleibt aber eingeschaltet. Während des Schultages analysiert ein neuronales Netz (entwickelt von der koreanischen Firma S-Labs, mit 47 Millionen Dollar Investition von SoftBank):
- alle eingehenden und ausgehenden Nachrichten in Messengern (Telegram, WhatsApp, iMessage, KakaoTalk);
- Browserverlauf und Screenshots;
- Foto-Metadaten (einschließlich Geotags und Zeitstempel).
Wenn die KI „Mobbing-Marker“ erkennt (erniedrigende Wörter, Drohungen, wiederholte Beschwerden von einer Person an eine andere), erhält der Lehrer eine Benachrichtigung mit einem Zitat. Bei mehr als drei Markern in einer Woche erfolgt ein automatischer Anruf bei den Eltern, und ein Eintrag wird in einer digitalen Akte vermerkt, die bei der Hochschulzulassung weitergeleitet wird.
Nach Angaben des koreanischen Bildungsministeriums (am 22. Mai auf dem lokalen Forum Ppomppu durchgesickert) erhielten in den ersten vier Betriebstagen 1.847 Schüler Verweise. Davon betrafen 211 Nachrichten, die außerhalb der Schule gesendet, aber während des Schultages gelesen wurden. Ein Schüler wurde für einen Witz in einem privaten Chat mit einem besten Freund gemeldet, der ihn nach einer misslungenen Prüfung „dumm“ nannte. Die KI wertete dies als Mobbing.
Was wirklich passiert (Die unsichtbare Seite)
Alle diskutieren über Datenschutz. Aber niemand erwähnt, dass S-Labs dasselbe Unternehmen ist, das 2024 ein KI-System zur „Überwachung der Mitarbeiterloyalität“ in den Logistikzentren von Coupang (koreanisches Amazon) verkauft hat. Dieses System markierte „toxische Gespräche im Lager“ – zum Beispiel Beschwerden über Löhne. Nach einem Gewerkschaftsskandal wurde das Projekt eingestellt. Die Technologie wurde als „Kinderschutz“ neu verpackt.
Aber es gibt ein zweites übersehenes Detail: Das neuronale Netz liest nicht nur Chats. Es trainiert mit ihnen. In der Lizenzvereinbarung für Eltern (niemand liest sie – 87 Seiten, Kleingedrucktes) heißt es in Klausel 14.3: „Anonymisierte Daten können zur Verbesserung der Mobbing-Erkennungsalgorithmen verwendet und zu Forschungszwecken an Dritte weitergegeben werden.“ Die „Dritten“ sind die Polizei und die Korea Internet & Security Agency (KISA). Ohne gesonderten Durchsuchungsbefehl. Wegen „Verbrechensprävention“.
Telegram-Kanäle haben bereits eine Challenge gestartet: „Sende ein zufälliges Wort von deinem Sperrbildschirm-Screenshot.“ Ziel ist es zu sehen, ob die KI Benachrichtigungen lesen kann, ohne das Telefon zu entsperren. Es stellt sich heraus: Ja, das kann sie: Über die iOS- und Android-Benachrichtigungs-APIs ruft die App Text sogar vom gesperrten Bildschirm ab.
Was die Medien nicht sagen
Offizielle Nachrichten auf CNN und BBC sagen: „Südkorea testet KI zum Schutz von Kindern.“ Sie erwähnen nicht, dass das System bereits Daten an eine gemeinsame Schülerdatenbank sendet, die seit 2021 existiert und psychologische Profile enthält (Angstniveaus, Aggressionstendenzen, Empathietestergebnisse). Jetzt werden „Chat-Vorfälle“, die als „KI-verifiziert“ gekennzeichnet sind, hinzugefügt.
Und entscheidend: Kein Journalist hat gefragt: Wie löscht man diese Daten? Nach koreanischem Kinderschutzgesetz müssen Schulen Schülerprofile fünf Jahre nach dem Abschluss aufbewahren. Ein mit 14 Jahren von der KI gelesener Chat bleibt also im System, wenn du 19 bist und dich an der Universität bewirbst. Du willst IT studieren? Das System sieht, dass du in der 8. Klasse einem Freund geschrieben hast: „Lass mich in Ruhe, Idiot.“ Das könnte ein Ablehnungsgrund sein. Offiziell kann es das nicht, aber der Ranking-Algorithmus für koreanische Universitätszulassungen ist geschlossen. Niemand kann die Verbindung beweisen.
Was in den nächsten 48-72 Stunden passieren wird – Eine konkrete Prognose
- 24. Mai, abends – Eine offizielle Stellungnahme des koreanischen Bildungsministeriums wird erwartet. Zwei Szenarien: Entweder sie setzen das Scannen privater Chats aus (nach einer Elternrevolte – eine Petition auf der Website des Präsidenten sammelte in 18 Stunden 180.000 Unterschriften), oder sie gehen in die Offensive und bezeichnen Kritiker als „Mobbing-Lobbyisten“.
- 25. Mai – Der erste Hack des Systems. Enthusiasten auf r/hacking haben bereits eine Schwachstelle gefunden: Wenn man die Telefonsprache auf eine Sprache ändert, die nicht in der KI-Datenbank ist (z. B. Baskisch oder Esperanto), gibt das System einen Fehler aus und überspringt das Gerät. S-Labs wird innerhalb von 24 Stunden nach Veröffentlichung des Exploits einen Patch veröffentlichen.
- 26. Mai, morgens Moskauer Zeit – Ein ähnlicher Gesetzentwurf wird in der russischen Staatsduma eingebracht. Ein Abgeordneter (wahrscheinlich von Einiges Russland, Name wird morgen bekannt gegeben) wird vorschlagen, „die koreanischen Erfahrungen zum Schutz von Kindern vor Cyber-Bedrohungen in russischen Schulen auszuweiten“. Die Initiative wird „Sichere Umgebung“ oder ähnlich heißen. Der Haushaltsantrag wird 3,2 Milliarden Rubel betragen.
Eine Frage, die ich euch mitgeben möchte, damit ihr in den Kommentaren und Reposts diskutieren könnt:
Wenn der KI-Scanner der Schule deines Kindes morgen den Satz „Ich hasse diese Klasse“ in seinem Chat mit einem Freund findet – ist das ein Warnsignal für einen Psychologen oder einfach etwas, das ein Kind ohne Konsequenzen schreiben darf? Und wo ist die Grenze, nach der „Kinderschutz“ in das umschlägt, wovor wir Kinder angeblich schützen?
— Editorial Team
Noch keine Kommentare.