AI 거대 기업들의 증류 방지 협력

# 미국 AI 거대 기업들, 중국 연구소 공격에 맞서 데이터 공유

OpenAI, Anthropic, Google이 Frontier Model Forum을 통해 처음으로 공식적으로 데이터를 공유하며 중국 연구소들에 대응하고 있습니다. 이들 기업은 공격자들이 donor 모델에 대량의 쿼리를 보내 응답을 수집한 뒤 자체 시스템을 훈련시키는 적대적 증류(adversarial distillation)를 통한 추출 공격을 기록하고 있습니다. 2023년 Microsoft와 파트너십으로 설립된 이 Forum은 안전 연구 플랫폼에서 위반 사례에 대한 실시간 정보 공유 채널로 진화했습니다.

적대적 증류는 컴팩트한 모델 버전을 만드는 데 사용되는 합법적인 증류와 다릅니다. 이용 약관(ToS)을 무시해 허가 없이 독점 지식을 추출할 때 위반이 발생합니다.

공격 규모와 중국 업체 정보

2026년 2월, 이들 기업은 개별적으로 대응했습니다. OpenAI는 DeepSeek을 의회에 보고했고, Anthropic은 DeepSeek, MiniMax, Moonshot의 캠페인 분석을 발표했으며, Google은 Gemini로부터 코딩 데이터와 자격 증명을 추출하려는 시도를 지적했습니다.

Anthropic은 프록시 서비스를 통해 24,000개의 가짜 계정으로부터 Claude에 1,600만 건 이상의 쿼리를 감지했습니다. 내역:

• MiniMax: 1,300만 건 이상의 상호작용;
• Moonshot: 340만 건;
• DeepSeek: 약 15만 건.

중국 연구소들은 Claude가 중국에서 공식적으로 이용 불가한 상황에서 차단을 우회합니다. 이러한 캠페인은 조정된 형태로 상용 프록시를 활용해 IP를 숨깁니다.

모호한 경계와 접근 방식에 대한 비판

전문가들은 비난의 모호성을 지적합니다. Nanyang Technological University의 Eric Cambria 교수는 합법적인 API 사용과 착취 사이의 경계가 모호하다고 강조합니다. AI 윤리 컨설팅 업체의 Lia Raquel Neves는 이를 이용 약관 위반으로 보고 있으며, 산업적 남용이 아니라고 봅니다.

비판론자들은 위선을 지적합니다. Anthropic 자신도 모델 훈련에 증류와 공개 데이터를 사용했습니다. 미국 기업들은 자체적으로 독점 시스템을 클라이언트 버전으로 증류하며 도덕적 선을 흐립니다.

정치적 맥락과 제언

이 문제는 정부 차원으로 확대됐습니다. IAPS Institute는 3월에 관련 연구소들을 미국 상무부 Entity List에 추가하고, PAIP Act에 따라 제재를 가하며, 증류 보호를 위한 NIST 프레임워크를 개발할 것을 제안했습니다. 첫 PAIP Act 제재는 2026년 2월 24일에 적용됐습니다.

CSET 분석가들은 2023~2024년에 PLA가 DeepSeek 모델을 포함한 AI 애플리케이션을 요청한 9,000건 이상의 입찰을 확인했습니다. 이는 기술적 불만을 규제 조치로 승화시키는 압력을 높입니다.

주요 요약

• OpenAI, Anthropic, Google이 Frontier Model Forum을 통해 DeepSeek, MiniMax, Moonshot의 적대적 증류를 추적하기 위해 데이터 공유를 조정하고 있습니다.
• 중국 연구소들이 프록시를 통해 24,000개의 가짜 계정으로 Claude에 1,600만 건 이상의 쿼리를 생성했습니다.
• 공격은 이용 약관을 위반하지만 합법적 증류와의 경계가 모호합니다. 비판자들은 선택성을 지적합니다.
• 정치적 고조: PLA 군사 입찰을 근거로 PAIP Act 제재와 Entity List 제안을 추진 중입니다.
• 개별 불만에서 집단 모니터링으로의 전환은 독점 모델에 대한 위협을 강조합니다.

이 협력은 산업 내 선례를 세우며, AI 지적 재산 보호가 공동 과제로 부상합니다. 중간/고급 개발자들은 보안 시스템 설계 시 API 유출 위험을 고려해야 합니다.

— Editorial Team