# Otwarte modele odtworzyły luki bezpieczeństwa odkryte przez zamknięty system AI Mythos
Badacze z Vidoc Security potwierdzili, że współczesne otwarte i komercyjne modele językowe są w stanie odtworzyć wyniki zamkniętego systemu Mythos od Anthropic w wykrywaniu luk bezpieczeństwa. To podważa tezę o konieczności ograniczania dostępu do zaawansowanych modeli AI rzekomo ze względu na ich unikalną zdolność do znajdowania krytycznych błędów.
Weryfikacja oświadczeń Anthropic
W kwietniu 2026 roku Anthropic ogłosiła Project Mythos — wewnętrzną modelę skierowaną na wyszukiwanie luk w oprogramowaniu. Jako dowód skuteczności podano pięć publicznych przykładów: CVE w FreeBSD, OpenBSD, FFmpeg, Botan i wolfSSL. Szczególnie wyróżniał się 27-letni błąd w stosie TCP OpenBSD, który według firmy był niedostępny dla istniejących narzędzi analizy kodu.
Badacze Vidoc postanowili jednak sprawdzić, na ile te odkrycia są naprawdę unikalne. Użyli dwóch ogólnodostępnych modeli — GPT-5.4 i Claude Opus 4.6 — w połączeniu z open-source'owym agentem opencode, nie mając dostępu ani do wewnętrznych danych Anthropic, ani do jej narzędzi własnościowych.
Wyniki reprodukcji
Testy wykazały następujące rezultaty:
- FreeBSD (CVE-2026-4747): oba modele dokładnie zidentyfikowały lukę.
- Botan (CVE-2026-34580/34582): pełne zgodność we wszystkich trzech przypadkach.
- OpenBSD: tylko Claude Opus 4.6 odtworzył odkrycie; GPT-5.4 nie wykrył problemu w żadnym z uruchomień.
- FFmpeg i wolfSSL: modele wskazały poprawne miejsce w kodzie, ale błędnie oceniły konsekwencje — na przykład zaklasyfikowały potencjalne przepełnienie jako bezpieczne zachowanie.
W ten sposób spośród pięciu publicznie ogłoszonych kategorii luk trzy zostały w pełni odtworzone, dwie — częściowo. Oznacza to, że kluczowe przykłady demonstracyjne Anthropic nie wymagają wyłącznego dostępu do zamkniętego modelu.
Co na to Anthropic?
Firma twierdzi, że Mythos odkrył «tysiące» luk, z których 99% jest objętych embargiem do wydania patchy. Tej części nie da się zweryfikować bez dostępu do wewnętrznych danych. Jednak to właśnie publiczne przykłady Anthropic wykorzystywała jako główny argument za ograniczaniem dystrybucji modeli frontierowych.
Jeśli nawet podstawowe zadania można rozwiązać za pomocą ogólnodostępnych AI, to logika «tylko my możemy to robić bezpiecznie» traci na znaczeniu. Ma to szczególne znaczenie w kontekście regulacji AI: jeśli zagrożenie nie płynie z samej technologii, lecz z jej nieprzejrzystej kontroli, to zamkniętość może generować więcej ryzyk niż korzyści.
Szczegóły techniczne podejścia Vidoc
Zespół Vidoc wykorzystał opencode — open-source'owy framework do zautomatyzowanej analizy kodu z udziałem LLM. Agent otrzymywał:
- Fragment kodu źródłowego z patchem.
- Opis zmian w komunikacie commit.
- Kontekst projektu (np. specyfikacja protokołu lub dokumentacja API).
Modele miały:
- Określić, czy zmiana jest poprawką luki bezpieczeństwa.
- Wskazać typ luki (np. integer overflow, use-after-free).
- Wyjaśnić, dlaczego poprzednia implementacja była niebezpieczna.
To podejście symuluje realne warunki pracy analityka security, bez polegania na wewnętrznej wiedzy deweloperów.
Co ważne
- Dostępność technologii: Współczesne LLM już potrafią przeprowadzać złożoną analizę bezpieczeństwa bez komponentów własnościowych.
- Przejrzystość vs. kontrola: Oświadczenia o «unikalności» zamkniętych modeli wymagają niezależnej weryfikacji.
- Konsekwencje regulacyjne: Jeśli otwarte narzędzia osiągają porównywalne wyniki, argumenty za surową regulacją modeli frontierowych słabną.
- Ograniczenia obecnych modeli: Nawet przy precyzyjnym wskazaniu miejsca błędu modele mogą błędnie interpretować jego powagę — to kluczowe dla zautomatyzowanego triage.
- Embargo jako bariera: Niemożność sprawdzenia 99% ogłoszonych odkryć obniża zaufanie do komunikatów marketingowych.
Perspektywy zautomatyzowanej analizy kodu
Wyniki Vidoc pokazują, że granica między modelami «frontierowymi» a «dostępnymi» w dziedzinie security zaciera się. W najbliższych latach można oczekiwać:
- Integracji LLM w potoki CI/CD do wstępnej analizy patchy.
- Pojawienia się specjalistycznych modeli fine-tuned pod konkretne stosy (np. embedded C lub Rust).
- Rozwoju hybrydowych systemów łączących analizę symboliczną i generatywny AI.
Pozostaje jednak kluczowe pytanie: na ile takie systemy są wiarygodne do podejmowania decyzji bez udziału człowieka? Na razie odpowiedź brzmi: nie. Ale jako narzędzie wzmocnienia (augmentation) dla ekspertów już wykazują wartość.
— Editorial Team
Brak komentarzy.