맥킨지 AI 플랫폼 취약점: 인증 없이 기밀 데이터 접근 가능
자율 도구가 맥킨지의 기업용 AI 시스템인 '릴리'의 치명적 취약점을 발견하여 인증 없이 수백만 건의 내부 문서 및 AI 설정에 접근할 수 있게 했습니다. 이 사건은 엔터프라이즈급 인공지능 솔루션 개발 과정에서 내재된 위험성을 강조합니다.
기술적 세부 사항
릴리 시스템은 내부 문서 분석, 아카이브 검색, 맥킨지 직원의 요청 처리를 위해 설계되었습니다. 이 플랫폼은 매월 수만 명의 사용자로부터 50만 건 이상의 요청을 처리합니다. 자동화된 테스트 알고리즘은 공개 API 문서를 활용하여 200개 이상의 엔드포인트를 식별했습니다. 그중 몇몇은 인증이 필요하지 않았습니다.
핵심 문제는 검색 쿼리 로깅 메커니즘 내에 존재하던 SQL 인젝션 취약점이었습니다. 시스템은 파라미터 값을 안전하게 처리했지만, 필드 이름은 SQL 명령문에 직접 삽입되었습니다. 알고리즘은 서비스 오류를 분석하여 취약점 패턴을 식별하고 데이터를 추출하는 기능성 쿼리를 생성했습니다.
정보 유출 규모
초기 접근이 허용된 후 방대한 저장소로 가는 길이 열렸습니다:
- 기업 채팅의 수천만 개 메시지;
- 프레젠테이션, 스프레드시트, 보고서 등을 포함한 수십만 개의 파일;
- 수만 명의 직원 계정 데이터.
모든 자료는 보호되지 않은 형식으로 저장되어 있었습니다. 또한 릴리의 AI 로직을 정의하는 시스템 설정도 추출되었습니다: 답변 생성 규칙, 접근 제한, 데이터 처리 방법 등입니다. 이 취약점은 읽기뿐만 아니라 이러한 매개변수를 수정할 수도 있게 했습니다.
잠재적 비즈니스 영향
AI 지시사항을 변경하면 상당한 위험이 발생할 수 있습니다. 플랫폼은 왜곡된 권장 사항을 발급하거나 기밀 정보를 공개하며 보안 정책을 우회할 수 있었습니다. 이러한 조작은 코드 수정 없이 구성 수준에서 발생하므로 탐지가 어렵습니다.
SQL 인젝션은 1990년대부터 알려진 문제임에도 불구하고 표준 보안 스캐닝 도구는 이를 식별하지 못했습니다. 이는 주요 컨설팅 기업의 AI 시스템 개발 및 테스트 프로세스에 구멍이 있음을 시사합니다.
주요 교훈
- 릴리 API의 취약점으로 비밀번호 없이 수백만 건의 내부 문서에 접근 가능;
- AI 동작 수정으로 유출 또는 오정보 확산 가능;
- 자율 도구에 의해 감지됨, 표준 스캐너는 놓침;
- 기업용 AI에 대한 엄격한 입력 검증 필요성 강조;
- 내부 AI 어시스턴트를 사용하는 모든 기업에게 해당되는 위험.
배경 및 산업적 의미
릴리 같은 AI 플랫폼은 막대한 양의 기업 데이터를 통합하여 생산성을 높이지만 공격 표면도 확대합니다. 취약점의 근본 원인은 파라미터 분리가 없는 SQL에 직접 매핑하는 레거시 방식의 요청 처리에 있습니다. 결과는 맥킨지에 국한되지 않습니다. BCG나 베인 같은 경쟁사들도 고객 데이터 분석에 AI를 사용할 때 유사한 위험에 노출되어 있습니다.
산업 영향: 설계 단계부터 안전한 AI에 대한 투자 증가. 사이버보안 보고서에 따르면 기업 사건의 70%가 API 취약점과 연관되어 있습니다. EU의 AI 법안과 같은 규제 기관들은 모델 투명성에 대한 요구를 강화하고 있습니다. 기업들은 다층 보호 구현을 강요받고 있습니다: 파라미터화된 쿼리, 최소 권한 접근, 정기적인 AI 구성 감사.
— Editorial Team
아직 댓글이 없습니다.