"Es la confiscación de teléfonos en tiempos de guerra": estudiantes en China/Corea del Sur obligados a entregar sus dispositivos para un escaneo con IA
El caso se volvió viral esta semana en canales de Telegram y r/Futurology. Según informes, las escuelas están implementando detectores de IA para escanear los chats y fotos de los estudiantes, supuestamente para combatir el acoso escolar. La viralidad surge del impacto por las violaciones de privacidad, memes sobre 'vigilancia total' y el pánico entre adolescentes que buscan formas de burlar el sistema.
"Te vas a dormir. Y la IA lee tu Telegram"
Un estudiante de octavo grado de Seúl, conocido en línea solo como nick_offline, publicó una captura de pantalla en su canal de Telegram el 22 de mayo de 2026. Mostraba una notificación escolar: "Su teléfono será escaneado por AI Safety Guard antes de las 07:00. No intente eliminar la aplicación. Está integrada en el firmware". Una hora después, su canal fue bloqueado. Pero la captura se difundió en r/Futurology y canales de tecnología en español, acumulando 4 millones de visitas en un día.
El adolescente escribió en su publicación: "Encontraron mi meme sobre el director. Ahora tengo un reporte y una llamada a mis padres. Por un meme. De hace dos semanas".
Bienvenidos a la escuela, donde la IA lee todo lo que no has eliminado.
Por qué todo Internet está hablando de esto
Desde el 18 de mayo, Corea del Sur (provincia de Gyeonggi) y tres escuelas piloto en Shanghái han lanzado oficialmente el sistema "AI Guardian" —un complejo de hardware y software para la "prevención proactiva del ciberacoso". Los estudiantes entregan sus teléfonos en la entrada de la escuela. El teléfono se coloca en un casillero RFID pero permanece encendido. Durante el día escolar, una red neuronal (desarrollada por la empresa coreana S-Labs, con una inversión de 47 millones de dólares de SoftBank) analiza:
- todos los mensajes entrantes y salientes en mensajerías (Telegram, WhatsApp, iMessage, KakaoTalk);
- el historial del navegador y las capturas de pantalla;
- los metadatos de las fotos (incluidas las geolocalizaciones y marcas de tiempo).
Si la IA detecta "marcadores de acoso" (palabras humillantes, amenazas, quejas repetidas de una persona a otra), el profesor recibe una notificación con una cita. Si hay más de tres marcadores en una semana, se realiza una llamada automática a los padres y se añade una entrada en un registro digital que se envía al solicitar la admisión a la universidad.
Según datos del Ministerio de Educación de Corea del Sur (filtrados el 22 de mayo en el foro local Ppomppu), en los primeros cuatro días de funcionamiento, 1.847 estudiantes recibieron amonestaciones. De estos, 211 fueron por mensajes enviados fuera de la escuela pero leídos durante el día escolar. Un estudiante fue señalado por una broma en un chat privado con su mejor amigo, quien lo llamó "estúpido" después de un examen reprobado. La IA consideró esto acoso.
Lo que realmente está sucediendo (el ángulo invisible)
Todos están discutiendo la privacidad. Pero nadie menciona que S-Labs es la misma empresa que, en 2024, vendió un sistema de IA para el "monitoreo de lealtad de empleados" en los centros logísticos de Coupang (el Amazon coreano). Ese sistema señalaba "conversaciones tóxicas en el almacén" —por ejemplo, quejas sobre salarios. Después de un escándalo sindical, el proyecto fue cancelado. La tecnología fue reempaquetada como "protección infantil".
Pero hay un segundo detalle pasado por alto: la red neuronal no solo lee los chats. También se entrena con ellos. En el acuerdo de licencia para padres (nadie lo lee—87 páginas, letra pequeña), la cláusula 14.3 establece: "Los datos anonimizados pueden ser utilizados para mejorar los algoritmos de detección de acoso y compartidos con terceros con fines de investigación". Los "terceros" son la policía y la Agencia de Internet y Seguridad de Corea (KISA). Sin una orden judicial separada. Porque "prevención del delito".
Los canales de Telegram ya han lanzado un desafío: "Envía una palabra aleatoria de la captura de pantalla de tu pantalla de bloqueo". El objetivo es ver si la IA puede leer las notificaciones sin desbloquear el teléfono. Resulta que sí puede: a través de las APIs de notificaciones de iOS y Android, la aplicación recupera texto incluso de la pantalla bloqueada.
Lo que los medios no están diciendo
Las noticias oficiales en CNN y BBC dicen: "Corea del Sur prueba IA para proteger a los niños". No mencionan que el sistema ya envía datos a una base de datos común de estudiantes que existe desde 2021 y contiene perfiles psicológicos (niveles de ansiedad, tendencias de agresión, resultados de pruebas de empatía). Ahora, se están agregando "incidentes de chat" etiquetados como "verificados por IA".
Y crucialmente, ningún periodista ha preguntado: ¿cómo se eliminan estos datos? Según la ley de protección infantil de Corea del Sur, las escuelas deben conservar los perfiles de los estudiantes durante cinco años después de la graduación. Así que un chat leído por la IA a los 14 años permanecerá en el sistema cuando tengas 19 y estés solicitando ingreso a la universidad. ¿Quieres estudiar informática? El sistema ve que en octavo grado le escribiste a un amigo: "Déjame en paz, idiota". Esto podría ser motivo de rechazo. Oficialmente, no puede, pero el algoritmo de clasificación para las admisiones universitarias en Corea del Sur es cerrado. Nadie puede probar la conexión.
Qué sucederá en las próximas 48-72 horas — un pronóstico concreto
- 24 de mayo, por la tarde — Se espera un comunicado oficial del Ministerio de Educación de Corea del Sur. Dos escenarios: o suspenden el escaneo de chats privados (tras una revuelta de padres—una petición en el sitio web del presidente obtuvo 180.000 firmas en 18 horas), o redoblan la apuesta, etiquetando a los críticos como "cabilderos del acoso".
- 25 de mayo — El primer hackeo del sistema. Los entusiastas de r/hacking ya han encontrado una vulnerabilidad: si cambias el idioma del teléfono a uno que no esté en la base de datos de la IA (por ejemplo, vasco o esperanto), el sistema arroja un error y omite el dispositivo. S-Labs lanzará un parche dentro de las 24 horas posteriores a la publicación del exploit.
- 26 de mayo, por la mañana, hora de Moscú — Se presentará un proyecto de ley similar en la Duma Estatal rusa. Un diputado (probablemente de Rusia Unida, el nombre se sabrá mañana) propondrá "extender la experiencia coreana de protección de niños contra amenazas cibernéticas en las escuelas rusas". La iniciativa se llamará "Entorno Seguro" o algo similar. La solicitud de presupuesto será de 3.200 millones de rublos.
Una pregunta que les dejo, para que discutan en los comentarios y compartan:
Si mañana el escáner de IA de la escuela de tu hijo encuentra la frase "Odio esta clase" en su chat con un amigo—¿es una señal de alerta para un psicólogo, o simplemente algo que un niño tiene derecho a escribir sin consecuencias? ¿Y dónde está la línea después de la cual la "protección infantil" se convierte en aquello de lo que supuestamente estamos protegiendo a los niños?
— Editorial Team
Aún no hay comentarios.