구글이 확인한 최초의 사례: AI를 이용한 범죄 목적 제로데이 취약점 발견
구글 GTIG AI 위협 추적 보고서는 2단계 인증을 우회한 최초의 AI 생성 범죄 익스플로잇을 문서화했습니다. 또한 Gemini를 활용한 자율형 Android 악성코드를 식별했습니다.
AI가 시스템을 무너뜨리는 법을 배웠다: 구글이 최초의 기계 생성 제로데이를 적발한 방법과 이것이 시작에 불과한 이유
결론: 실제로 무슨 일이 일어나고 있는가
2026년 5월 12일은 탐정 소설이 현실이 된 날로 사이버 보안 교과서에 기록될 것입니다. 구글 위협 인텔리전스 그룹(GTIG)은 인공지능을 사용하여 생성된 제로데이 익스플로잇의 첫 번째 확인 사례를 문서화한 보고서를 발표했습니다. 실험실이나 실험이 아니라, 오픈소스 시스템 관리 도구의 취약점을 대규모로 악용하려는 활성 범죄 계획의 일환이었습니다.
이 이야기는 평범하면서도 충격적입니다. 과거 대규모 침해 사고를 일으킨 익명의 범죄 그룹이 대규모 언어 모델(LLM)을 사용하여 2단계 인증을 우회할 수 있는 취약점을 찾고 악용했습니다. 이 익스플로잇은 '대규모 악용 사건'의 기반이 될 예정이었지만, 구글이 적시에 개입하여 취약점을 개발자에게 공개하고 패치가 공격 시작 전에 배포되었습니다.
구글이 AI가 사람이 아닌 코드를 작성했다고 확신하는 이유는 핵심적입니다. 파이썬 스크립트에는 교과서 스타일의 '교육용' 독스트링, LLM 출력의 전형적인 구조화된 주석, 그리고 가장 결정적으로 모델이 실제 데이터베이스에서 가져오지 않고 지어낸 가짜 CVSS 점수가 포함되어 있었습니다. 인간 연구자는 이런 인공물을 작성하지 않습니다. 이것이 기계의 서명입니다.
타임라인 및 맥락
2026년 5월의 사건은 갑자기 발생하지 않았습니다. 모든 전선에서 수개월 간의 확대가 선행되었습니다.
2025년 8월: ESET이 PromptLock을 발견했습니다. 이는 피해자에 맞게 요구를 조정하기 위해 생성 모델을 사용하는 최초의 AI 기반 랜섬웨어입니다. 업계는 생성형 AI(GenAI)를 개발 도구가 아니라 악성코드의 실행 코드 일부로 봅니다.
2026년 1월: Android 트로이목마 VNCSpy의 첫 번째 샘플이 홍콩에서 VirusTotal에 업로드되었습니다. 코드는 여전히 원시적이며, AI 구성 요소 없이 고전적인 VNC 백도어입니다.
2026년 2월: 불과 한 달 만에 질적 도약이 일어납니다. VNCSpy의 진화형인 PromptSpy가 등장하며, Gemini와 상호작용하는 내장 모듈을 갖추고 있습니다. 이 악성코드는 이제 구글의 API를 사용하여 감염된 장치의 인터페이스를 해석하고 화면을 자율적으로 탐색합니다. ESET은 아르헨티나에서 업로드된 샘플을 탐지했습니다. 메커니즘은 다음과 같습니다: 트로이목마가 화면의 XML 덤프를 가져와 '당신은 Android 자동화 어시스턴트입니다'라는 지시와 함께 Gemini로 보내고, 터치 좌표가 포함된 JSON 응답을 받아 실행합니다. 이 과정은 작업이 완료될 때까지 반복됩니다.
동시에 구글은 2월 GTIG 보고서를 발표하여 북한과 중국의 국가 지원 그룹이 정찰부터 침해 후까지 공격의 모든 단계에서 AI를 사용한다는 사실을 처음으로 문서화했습니다. 북한의 APT45는 수천 개의 익스플로잇을 AI를 통해 검증하고 무기고를 확장합니다.
2026년 3월: TeamPCP 그룹이 중독된 PyPI 패키지와 악성 풀 리퀘스트를 통해 LLM 작업을 위한 인기 게이트웨이 라이브러리인 LiteLLM을 손상시켰습니다. AWS와 GitHub 자격 증명이 도난당하고 랜섬웨어 파트너십을 통해 수익화되었습니다. 이는 새로운 벡터입니다: 모델 자체가 아닌 통합 계층을 공격하는 것입니다.
2026년 5월: 5월 12일에 발표된 GTIG 보고서는 그림을 구체화합니다. 제로데이 외에도 다음을 문서화했습니다: 중국 그룹 UNC2814가 일본 기술 회사를 지속적으로 스캔하기 위해 OpenClaw와 같은 에이전트 도구 사용; LLM에서 TP-Link 펌웨어의 사전 인증 RCE 취약점을 추출하기 위한 페르소나 기반 탈옥; 실제 뉴스 방송에 합성 오디오를 삽입한 러시아의 영향력 작업.
이는 더 이상 고립된 사건이 아니라 패턴입니다.
승자와 패자
패자는 분명히 웹 인프라를 관리하는 모든 사람입니다. 취약점 공개와 공격 시작 사이의 시간이 사라지고 있습니다. Fortinet의 병행 보고서에 따르면, 익스플로잇 시도는 이제 공개 후 24-48시간 이내에 시작되며, 이전에는 평균 4.76일이었습니다. 지난 1년 동안 랜섬웨어 피해자 수는 389% 증가하여 1,600명에서 7,831명으로 늘어났습니다. 이는 패치가 CVE 발표 당일에 이루어져야 하며, 주간 SLA 내에서는 안 되는 세상입니다.
오픈소스 생태계가 패배합니다. 공격은 오픈소스 관리 도구를 대상으로 했습니다. AI가 찾은 의미론적 취약점은 개발자가 인증 흐름에 신뢰 가정을 내장하여 2FA 로직과 모순을 만든 논리적 결함이었습니다. 전통적인 스캐너는 버퍼 오버플로우와 경쟁 조건을 찾습니다. 그들은 사람처럼 코드를 읽지 않습니다. LLM은 정확히 그렇게 읽으며, 구문이 아닌 의도의 오류를 찾습니다.
휴대폰 제조사가 패배합니다. PromptSpy는 Android에서 '메모리에 고정' 버튼을 누르기 위해 특정 좌표가 필요하지 않습니다. Gemini에 물어보면 모델이 이해합니다: 삼성에서는 길게 탭, 샤오미에서는 아래로 스와이프, Pixel에서는 자물쇠 아이콘. 동일한 악성코드가 모든 장치에서 작동합니다.
구글이 승리합니다. 아이러니하게도 PromptSpy가 악용하는 Gemini 모델을 가진 회사가 전체 상황에서 이익을 얻습니다. GTIG는 AI 기반 공격을 초기 단계에서 차단하는 능력을 입증함으로써 평판 자본을 구축합니다. 취약점 발견을 위한 Big Sleep과 자동 패치를 위한 CodeMender와 같은 보호 도구는 수요에 대한 증거를 얻습니다.
자동화에 준비된 공격자가 승리합니다. Fortinet은 무차별 대입 시도가 22% 감소했지만 익스플로잇 시도는 25.49% 증가했다고 기록합니다. 이는 활동 감소가 아니라 양에서 질로의 전환입니다. WormGPT, FraudGPT, HexStrike AI와 같은 도구에 대한 접근은 진입 장벽을 낮추고, 인포스틸러(RedLine, Lumma, Vidar)가 훔친 데이터(현재 다크 웹에서 판매되는 모든 데이터 세트의 67%)는 표적 공격에 연료를 제공합니다.
언론이 말하지 않는 것
통찰 1: 취약점은 기술적이 아니라 의미론적이며, 이것이 핵심 문제입니다. 사이버 보안 업계의 30년 동안 우리는 구문 오류를 찾는 방어 체계를 구축해 왔습니다. 퍼저는 충돌을 찾고, 정적 분석기는 패턴을 찾습니다. 둘 다 프로그래머의 의도와 구현 사이의 논리적 모순을 인지하지 못합니다. LLM은 인지합니다. 의미, 맥락, 의도를 보기 때문입니다. 이는 5년 이상 된 모든 프로젝트에 전통적인 도구가 볼 수 없는 눈에 띄지 않는 논리적 취약점이 있음을 의미합니다. AI가 발견한 제로데이는 예외가 아니라 골드러시의 시작입니다.
통찰 2: 범죄 목적의 AI 사용은 악성코드를 예측 불가능하게 만들고, 따라서 안티바이러스에 보이지 않게 만듭니다. 전통적인 안티바이러스는 서명, 행동 패턴, 알려진 API 호출 시퀀스를 찾습니다. 그러나 PromptSpy의 각 인스턴스가 LLM 응답에 따라 동적으로 결정을 내리면, 그 행동은 어떤 규칙 기반으로도 포괄할 수 없는 한계 내에서 다양해집니다. ESET은 코드의 디버그 플래그 덕분에 PromptSpy를 잡았습니다. 다음에는 플래그가 제거되고 탐지가 훨씬 더 어려워질 것입니다.
통찰 3: 목표는 도구가 아니라 AI 자체입니다. TeamPCP의 LiteLLM 공격은 새로운 위협 모델을 드러냅니다. 게이트웨이 라이브러리를 손상시키면 해당 도구를 통해 LLM을 사용하는 모든 사람의 자격 증명을 가로챌 수 있습니다. 이는 모델 주변 인프라에 대한 공급망 공격입니다. 공격자가 LLM 제공업체의 API 키에 접근하면 다른 사람의 유료 구독을 사용하여 자신의 공격을 확장하고 추적을 완전히 숨길 수 있습니다. GTIG는 명시적으로 밝힙니다: 공격자는 자동 계정 순환을 통해 프리미엄 모델에 익명으로 접근하는 전문 미들웨어를 개발 중입니다.
통찰 4: 첫 번째 문서화된 제로데이는 방어의 승리가 아니라 범죄자의 실수입니다. 구글은 경험 부족의 인공물(가짜 CVSS, '교육용' 주석) 덕분에 익스플로잇을 발견했습니다. 이후 반복에는 이러한 표시가 포함되지 않을 것입니다. 배포 전에 통제된 환경에서 AI 생성 익스플로잇을 정제하기 위해 OpenClaw를 사용하는 사례가 이미 문서화되었습니다. 이는 산업화입니다: LLM이 초안을 작성하고, 인간이 검토하여 인공물을 정리합니다.
예측: 향후 30일 및 90일
30일 (2026년 6월 중순까지). 구글 보고서의 발표는 오픈소스 업계에서 감사 물결을 촉발할 것입니다. 웹 관리 인터페이스를 유지하는 프로젝트는 'AI가 847번 줄에서 논리적 모순을 발견했습니다'와 같은 비정상적인 유형의 버그 보고를 받기 시작할 것입니다. 주요 프로젝트(Jenkins, Grafana, GitLab)의 개발자는 특히 의미론적 취약점에 대한 내부 검토를 시작할 것입니다. 이는 이전에 체계적으로 검색된 적이 없는 클래스입니다.
동시에 지하 포럼에서 재평가가 일어날 것입니다. 코드에 '환각'이 있는 기성 익스플로잇은 할인되고, AI 생성 코드에서 인공물을 정리할 수 있는 전문가에 대한 수요가 증가할 것입니다. 범죄 생태계에 'AI 익스플로잇 정화기'라는 새로운 미세 전문화가 등장할 것입니다.
30일 이내에 적어도 하나의 주요 벤더(Microsoft, Cisco, Palo Alto)가 코드 스캐너에 LLM 기반 의미론적 분석을 포함할 것이라고 예상합니다. 이는 GTIG가 설명한 위협에 대한 직접적인 대응이 될 것입니다.
90일 (2026년 8월 중순까지). 의미론적 취약점은 주류 벡터가 될 것입니다. 오늘날에는 구글만이 이에 대해 이야기합니다. 3개월 안에 FireEye, CrowdStrike 및 학술 그룹의 독립적인 연구가 나타나 LLM이 인간보다 더 잘 찾는 논리적 오류 유형을 분류할 것입니다. 8월까지 방어자와 공격자 모두에 의해 AI로 발견된 적어도 5-7개의 CVE가 문서화될 것입니다.
2026년 여름, Black Hat과 DEF CON에서 AI 기반 취약점 발견 주제가 의제를 지배할 것입니다. 자동화된 파이프라인을 시연하는 적어도 하나의 프레젠테이션이 예상됩니다: LLM이 취약점을 찾고, 에이전트 프레임워크가 익스플로잇을 생성하고, 다른 에이전트가 인공물을 정리하며, 세 번째 에이전트가 공격을 배포합니다. 개념 증명이 아니라 작동하는 체인으로 말입니다.
가장 불쾌한 부분: 도난 데이터의 수익화 모델이 마침내 AI 분석으로 전환될 것입니다. 인포스틸러는 이미 다크 웹 데이터베이스 콘텐츠의 67%를 공급합니다. 여기에 LLM을 사용한 자동 분류 및 피해자 우선순위 지정이 추가될 것입니다: '여기 RDP가 열려 있고 vCenter가 오래된 회사가 있습니다. 랜섬 지불 확률 78%, 권장 금액 $400,000.' 이는 랜섬웨어를 새로운 수준의 경제적 효율성으로 끌어올릴 것입니다.
결론. 2026년 5월 12일은 수년간 경고해 온 것을 문서화했습니다: 최초의 AI 생성 제로데이. 그러나 이것은 결승선이 아니라 시작입니다. 경주가 시작되었으며, 방어자는 이미 AI를 가진 자들을 앞지르기 위해 LLM처럼 생각하는 법을 배워야 할 것입니다. GTIG의 John Hultquist는 간결하게 말했습니다: 'AI 취약점 경쟁이 불가피하다는 오해가 있습니다. 현실은 이미 진행 중이라는 것입니다. 우리가 AI로 추적할 수 있는 모든 제로데이에 대해, 보지 못하는 다른 많은 제로데이가 있을 가능성이 높습니다.'
— Editorial Team
아직 댓글이 없습니다.