Spolupráce AI gigantů proti destilaci

# Američtí giganti AI sdílejí data k obraně před útoky čínských laboratoří

OpenAI, Anthropic a Google poprvé oficiálně sdílejí data prostřednictvím Frontier Model Forum k boji proti čínským laboratořím. Tyto společnosti zaznamenávají útoky na extrakci prostřednictvím adversarial distillation — metody, při níž útočníci posílají masové požadavky do dárenských modelů, sbírají odpovědi a trénují své vlastní systémy. Forum, založené v roce 2023 společně s Microsoft, se vyvinulo z platformy pro výzkum bezpečnosti na kanál pro rychlou výměnu informací o porušeních.

Adversarial distillation se liší od legitimní destilace, která se používá k vytváření kompaktních verzí modelů. Porušení nastává při ignorování podmínek uživatelské smlouvy, což umožňuje extrakci proprietárních znalostí bez souhlasu.

Rozsah útoků a data o čínských hráčích

V únoru 2026 firmy působily odděleně: OpenAI informovala Kongres o DeepSeek, Anthropic zveřejnila analýzu kampaní DeepSeek, MiniMax a Moonshot, Google zaznamenal pokusy o extrakci dat z Gemini pro kódování a přihlašovací údaje.

Anthropic zachytila více než 16 milionů požadavků na Claude z 24 000 falešných účtů prostřednictvím proxy služeb. Rozložení:

• MiniMax: přes 13 milionů interakcí;
• Moonshot: 3,4 milionu;
• DeepSeek: kolem 150 tisíc.

Čínské laboratoře obcházejí blokády, protože Claude není v ČLR oficiálně dostupný. Takové kampaně jsou koordinované a využívají komerční proxy k maskování.

Rozmazané hranice a kritika přístupu

Experti upozorňují na nejednoznačnost obvinění. Profesor Eric Cambria z Nanyang Technological University zdůrazňuje rozmazanost mezi legitimním použitím API a exploitation. Lia Raquel Neves z konzultační firmy pro etiku AI interpretuje stížnosti jako porušení ToS, nikoli průmyslové zneužití.

Kritici poukazují na pokrytectví: Anthropic používala destilaci a veřejná data pro své modely. Americké firmy samy destilují proprietární systémy do klientských verzí, což maže morální hranici.

Politický kontext a doporučení

Téma se dostalo na státní úroveň. Institut IAPS v březnu navrhl zařadit zapletené laboratoře na Entity List Ministerstva obchodu USA, zavést sankce podle PAIP Act a vyvinout NIST rámec ochrany před destilací. První sankce podle PAIP Act byly aplikovány 24. února 2026.

Analytici CSET odhalili přes 9 000 tenderů PLA za roky 2023–2024 s požadavky na aplikace AI, včetně modelů DeepSeek. To zesiluje tlak na eskalaci technických stížností do regulačních opatření.

Co je důležité

• OpenAI, Anthropic a Google koordinují sdílení dat prostřednictvím Frontier Model Forum k zaznamenání adversarial distillation od DeepSeek, MiniMax a Moonshot.
• Čínské laboratoře vygenerovaly >16 milionů požadavků na Claude z 24 000 falešných účtů prostřednictvím proxy.
• Útoky porušují ToS, ale hranice s legitimní destilací je rozmazaná; kritici vidí selektivitu.
• Politická eskalace: návrhy na sankce PAIP Act a Entity List na základě vojenských tenderů PLA.
• Posun od individuálních stížností k kolektivnímu monitoringu podtrhuje hrozbu pro proprietární modely.

Taková spolupráce vytváří precedens pro průmysl, kde ochrana duševního vlastnictví v AI se stává kolektivní úlohou. Vývojáři na úrovni middle/senior by měli zohledňovat rizika úniků prostřednictvím API při návrhu bezpečnostních systémů.

— Editorial Team