"전시 중 휴대폰 압수": 중국/한국 학생들, AI 검사를 위해 기기 제출 강요
이 사건은 이번 주 텔레그램 채널과 r/Futurology에서 화제가 되었습니다. 학교들이 학생들의 채팅과 사진을 AI 탐지기로 스캔하여 왕따를 방지한다고 합니다. 화제가 된 이유는 프라이버시 침해에 대한 충격, '전체 감시'에 대한 밈, 그리고 시스템을 속일 방법을 고민하는 십대들의 패닉 때문입니다.
"당신은 잠든다. 그리고 AI 선생님이 당신의 텔레그램을 읽는다"
서울의 한 중학생(온라인에서 nick_offline으로만 알려짐)이 2026년 5월 22일 자신의 텔레그램 채널에 스크린샷을 게시했습니다. 학교 공지사항이었습니다: "휴대폰은 07:00까지 AI Safety Guard에 의해 스캔됩니다. 앱을 삭제하지 마십시오. 펌웨어에 내장되어 있습니다." 한 시간 후, 그의 채널은 차단되었습니다. 그러나 스크린샷은 r/Futurology와 러시아어 기술 채널에 퍼져 하루 만에 400만 뷰를 기록했습니다.
그 학생은 게시물에 이렇게 썼습니다: "교장 선생님에 대한 제 밈을 찾아냈어요. 이제 견책과 부모님 호출을 받았어요. 밈 하나 때문에. 2주 전 거예요."
학교에 오신 것을 환영합니다. AI가 당신이 삭제하지 않은 모든 것을 읽습니다.
왜 인터넷 전체가 이 이야기를 하는가
5월 18일부터 한국(경기도)과 상하이의 3개 시범 학교가 공식적으로 'AI Guardian' 시스템을 시작했습니다. 이는 '사이버 왕따 예방'을 위한 하드웨어-소프트웨어 복합 시스템입니다. 학생들은 학교 입구에서 휴대폰을 제출합니다. 휴대폰은 RFID 사물함에 보관되지만 전원은 켜진 상태로 유지됩니다. 수업 시간 내내 신경망(한국 기업 S-Labs가 개발, 소프트뱅크로부터 4700만 달러 투자 유치)이 다음을 분석합니다:
- 메신저(텔레그램, 왓츠앱, 아이메시지, 카카오톡)의 모든 수신 및 발신 메시지;
- 브라우저 기록 및 스크린샷;
- 사진 메타데이터(지리 태그 및 타임스탬프 포함).
AI가 '왕따 표지'(모욕적인 말, 협박, 한 사람이 다른 사람에게 반복적인 불만)를 감지하면 교사에게 인용문과 함께 알림이 전송됩니다. 일주일에 3개 이상의 표지가 있으면 자동으로 부모님께 전화가 가고, 대학 입학 시 제출되는 디지털 기록에 항목이 추가됩니다.
한국 교육부의 데이터(5월 22일 국내 포럼 뽐뿌에 유출됨)에 따르면, 운영 첫 4일 동안 1,847명의 학생이 견책을 받았습니다. 이 중 211건은 학교 밖에서 보냈지만 수업 시간에 읽은 메시지 때문이었습니다. 한 학생은 절친과의 비공개 채팅에서 농담을 한 것으로 적발되었는데, 친구가 시험에 떨어진 후 그를 '바보'라고 부른 것이었습니다. AI는 이를 왕따로 간주했습니다.
실제로 일어나고 있는 일 (보이지 않는 측면)
모두가 프라이버시에 대해 논의하고 있습니다. 그러나 아무도 S-Labs가 2024년 쿠팡(한국 아마존) 물류 센터에 '직원 충성도 모니터링' AI 시스템을 판매한 회사라는 점을 언급하지 않습니다. 그 시스템은 '창고 내 유해 대화'(예: 임금 불만)를 플래그했습니다. 노조 스캔들 이후 프로젝트는 중단되었습니다. 기술은 '아동 보호'로 재포장되었습니다.
하지만 간과된 두 번째 세부 사항이 있습니다: 신경망은 채팅을 읽을 뿐만 아니라 그 채팅으로 훈련합니다. 학부모용 라이선스 계약서(아무도 읽지 않음—87페이지, 작은 글씨)의 14.3항에는 "익명화된 데이터는 왕따 탐지 알고리즘 개선에 사용될 수 있으며 연구 목적으로 제3자와 공유될 수 있습니다."라고 명시되어 있습니다. '제3자'는 경찰과 한국인터넷진흥원(KISA)입니다. 별도의 영장 없이. '범죄 예방'이라는 이유로.
텔레그램 채널에서는 이미 챌린지가 시작되었습니다: "잠금 화면 스크린샷에서 무작위 단어 하나를 보내세요." 목표는 AI가 휴대폰을 잠금 해제하지 않고도 알림을 읽을 수 있는지 확인하는 것입니다. 가능한 것으로 밝혀졌습니다: iOS 및 안드로이드 알림 API를 통해 앱이 잠긴 화면에서도 텍스트를 가져옵니다.
언론이 말하지 않는 것
CNN과 BBC의 공식 뉴스는 "한국, AI로 아동 보호 테스트"라고 보도합니다. 시스템이 2021년부터 존재하며 심리 프로필(불안 수준, 공격 성향, 공감 능력 테스트 결과)을 포함하는 공통 학생 데이터베이스에 이미 데이터를 보내고 있다는 점은 언급하지 않습니다. 이제 'AI 검증됨'으로 태그된 '채팅 사건'이 추가되고 있습니다.
그리고 결정적으로, 어떤 기자도 묻지 않았습니다: 이 데이터를 어떻게 삭제합니까? 한국 아동 보호법에 따라 학교는 졸업 후 5년 동안 학생 프로필을 보관해야 합니다. 따라서 14세 때 AI가 읽은 채팅은 19세에 대학에 지원할 때 시스템에 남아 있습니다. IT를 공부하고 싶습니까? 시스템은 8학년 때 친구에게 "나 좀 내버려 둬, 바보야"라고 썼다는 것을 확인합니다. 이는 거절 사유가 될 수 있습니다. 공식적으로는 그럴 수 없지만, 한국 대학 입시의 순위 알고리즘은 비공개입니다. 아무도 연관성을 증명할 수 없습니다.
향후 48-72시간 내에 일어날 일 — 구체적인 예측
- 5월 24일 저녁 — 한국 교육부의 공식 성명이 예상됩니다. 두 가지 시나리오: 비공개 채팅 스캔을 중단하거나(학부모 반발—대통령 홈페이지 청원이 18시간 만에 18만 서명을 모음), 비판자들을 '왕따 로비스트'로 낙인찍으며 강경 대응합니다.
- 5월 25일 — 첫 시스템 해킹. r/hacking의 열성팬들이 이미 취약점을 발견했습니다: 휴대폰 언어를 AI 데이터베이스에 없는 언어(예: 바스크어 또는 에스페란토)로 변경하면 시스템이 오류를 발생시키고 기기를 건너뜁니다. S-Labs는 익스플로잇 공개 후 24시간 이내에 패치를 출시할 것입니다.
- 5월 26일 모스크바 시간 오전 — 유사한 법안이 러시아 국가 두마에 제출될 것입니다. 한 의원(아마 통합 러시아당, 이름은 내일 공개)이 "러시아 학교에서 사이버 위협으로부터 아동을 보호하는 한국의 경험을 확대"할 것을 제안할 것입니다. 이니셔티브는 '안전한 환경' 또는 이와 유사한 이름으로 불릴 것입니다. 예산 요청은 32억 루블이 될 것입니다.
여러분이 댓글과 리포스트에서 논쟁할 수 있도록 한 가지 질문을 남깁니다:
만약 내일 당신 자녀의 학교 AI 스캐너가 친구와의 채팅에서 '이 수업 싫어'라는 문구를 발견한다면—그것은 심리학자에게 보내야 할 위험 신호일까요, 아니면 아이가 아무 결과 없이 쓸 권리가 있는 것일까요? 그리고 '아동 보호'가 우리가 아이들을 보호해야 하는 바로 그 대상으로 변하는 경계선은 어디일까요?
— Editorial Team
아직 댓글이 없습니다.