"C'est la confiscation des téléphones en temps de guerre" : des élèves en Chine/Corée du Sud contraints de remettre leurs appareils pour un filtrage par IA
L'affaire est devenue virale cette semaine sur les chaînes Telegram et r/Futurology. Des écoles déploieraient des détecteurs d'IA pour analyser les chats et photos des élèves, soi-disant pour lutter contre le harcèlement. La viralité vient du choc face aux violations de la vie privée, des mèmes sur la 'surveillance totale' et de la panique chez les adolescents qui cherchent des moyens de contourner le système.
"Tu vas dormir. Et le professeur IA lit ton Telegram"
Un élève de quatrième à Séoul, connu en ligne seulement sous le pseudo nick_offline, a posté une capture d'écran sur sa chaîne Telegram le 22 mai 2026. On y voyait une notification scolaire : "Votre téléphone sera scanné par AI Safety Guard avant 07h00. N'essayez pas de supprimer l'application. Elle est intégrée au firmware." Une heure plus tard, sa chaîne a été bloquée. Mais la capture d'écran s'est répandue sur r/Futurology et les chaînes tech russophones, accumulant 4 millions de vues en un jour.
L'adolescent a écrit dans son post : "Ils ont trouvé mon mème sur le proviseur. Maintenant j'ai un avertissement et un appel à mes parents. Pour un mème. Datant de deux semaines."
Bienvenue à l'école, où l'IA lit tout ce que tu n'as pas supprimé.
Pourquoi tout Internet en parle
Depuis le 18 mai, la Corée du Sud (province de Gyeonggi) et trois écoles pilotes à Shanghai ont officiellement lancé le système "AI Guardian" — un complexe matériel-logiciel pour la "prévention proactive du cyberharcèlement". Les élèves remettent leur téléphone à l'entrée de l'école. Le téléphone est placé dans un casier RFID mais reste allumé. Pendant la journée scolaire, un réseau neuronal (développé par la société coréenne S-Labs, avec 47 millions de dollars d'investissement de SoftBank) analyse :
- tous les messages entrants et sortants dans les messageries (Telegram, WhatsApp, iMessage, KakaoTalk) ;
- l'historique de navigation et les captures d'écran ;
- les métadonnées des photos (y compris les géotags et les horodatages).
Si l'IA détecte des "marqueurs de harcèlement" (mots humiliants, menaces, plaintes répétées d'une personne à une autre), l'enseignant reçoit une notification avec une citation. S'il y a plus de trois marqueurs en une semaine, un appel automatique est passé aux parents, et une entrée est ajoutée à un dossier numérique qui est transmis lors de l'admission à l'université.
Selon les données du ministère coréen de l'Éducation (divulguées le 22 mai sur le forum local Ppomppu), au cours des quatre premiers jours de fonctionnement, 1 847 élèves ont reçu des avertissements. Parmi eux, 211 pour des messages envoyés en dehors de l'école mais lus pendant la journée scolaire. Un élève a été signalé pour une blague dans un chat privé avec son meilleur ami, qui l'avait traité d'"idiot" après un examen raté. L'IA a considéré cela comme du harcèlement.
Ce qui se passe vraiment (l'angle invisible)
Tout le monde parle de vie privée. Mais personne ne mentionne que S-Labs est la même entreprise qui, en 2024, a vendu un système d'IA pour la "surveillance de la loyauté des employés" dans les centres logistiques de Coupang (l'Amazon coréen). Ce système signalait les "conversations toxiques dans l'entrepôt" — par exemple, les plaintes concernant les salaires. Après un scandale syndical, le projet a été abandonné. La technologie a été reconditionnée en "protection de l'enfance".
Mais il y a un deuxième détail négligé : le réseau neuronal ne se contente pas de lire les chats. Il s'entraîne dessus. Dans le contrat de licence destiné aux parents (personne ne le lit — 87 pages, petits caractères), la clause 14.3 stipule : "Les données anonymisées peuvent être utilisées pour améliorer les algorithmes de détection du harcèlement et partagées avec des tiers à des fins de recherche." Les "tiers" sont la police et la Korea Internet & Security Agency (KISA). Sans mandat séparé. Parce que "prévention du crime".
Les chaînes Telegram ont déjà lancé un défi : "Envoyez un mot aléatoire depuis la capture d'écran de votre écran de verrouillage." Le but est de voir si l'IA peut lire les notifications sans déverrouiller le téléphone. Il s'avère que oui : via les API de notification iOS et Android, l'application récupère le texte même depuis l'écran verrouillé.
Ce que les médias ne disent pas
Les actualités officielles sur CNN et BBC disent : "La Corée du Sud teste l'IA pour protéger les enfants." Elles ne mentionnent pas que le système envoie déjà des données à une base de données commune des élèves qui existe depuis 2021 et contient des profils psychologiques (niveaux d'anxiété, tendances à l'agression, résultats de tests d'empathie). Maintenant, des "incidents de chat" étiquetés comme "vérifiés par l'IA" sont ajoutés.
Et surtout, aucun journaliste n'a demandé : comment supprimer ces données ? En vertu de la loi coréenne sur la protection de l'enfance, les écoles doivent conserver les profils des élèves pendant cinq ans après l'obtention du diplôme. Ainsi, un chat lu par l'IA à 14 ans restera dans le système quand vous aurez 19 ans et postulerez à l'université. Vous voulez étudier l'informatique ? Le système voit qu'en 4e vous avez écrit à un ami : "Laisse-moi tranquille, imbécile." Cela pourrait être un motif de rejet. Officiellement, non, mais l'algorithme de classement pour les admissions universitaires coréennes est fermé. Personne ne peut prouver le lien.
Ce qui va se passer dans les 48 à 72 heures — une prévision concrète
- 24 mai, soir — Une déclaration officielle du ministère coréen de l'Éducation est attendue. Deux scénarios : soit ils suspendent l'analyse des chats privés (après une révolte parentale — une pétition sur le site du président a recueilli 180 000 signatures en 18 heures), soit ils doublent la mise, qualifiant les critiques de "lobbyistes du harcèlement".
- 25 mai — Le premier piratage du système. Des passionnés sur r/hacking ont déjà trouvé une vulnérabilité : si vous changez la langue du téléphone pour une langue absente de la base de données de l'IA (par exemple, le basque ou l'espéranto), le système génère une erreur et ignore l'appareil. S-Labs publiera un correctif dans les 24 heures suivant la publication de l'exploit.
- 26 mai, matin, heure de Moscou — Un projet de loi similaire sera présenté à la Douma d'État russe. Un député (probablement de Russie unie, nom à paraître demain) proposera "d'étendre l'expérience coréenne de protection des enfants contre les cybermenaces dans les écoles russes". L'initiative s'appellera "Environnement sûr" ou quelque chose d'approchant. La demande budgétaire sera de 3,2 milliards de roubles.
Une question que je vous laisse, pour que vous puissiez débattre dans les commentaires et les reposts :
Si demain le scanner IA de l'école de votre enfant trouve la phrase "Je déteste cette classe" dans son chat avec un ami — est-ce un signal d'alarme pour un psychologue, ou simplement quelque chose qu'un enfant a le droit d'écrire sans conséquences ? Et où se trouve la ligne après laquelle la "protection de l'enfance" se transforme en ce contre quoi nous sommes censés protéger les enfants ?
— Editorial Team
Aucun commentaire pour le moment.