# Otevřené modely reprodukovaly zranitelnosti nalezené uzavřeným AI systémem Mythos
Výzkumníci z Vidoc Security potvrdili, že současné otevřené a komerční jazykové modely jsou schopny reprodukovat výsledky uzavřeného systému Mythos od Anthropic při detekci zranitelností. To zpochybňuje tezi o nutnosti omezovat přístup k pokročilým AI modelům údajně kvůli jejich unikátní schopnosti nacházet kritické chyby.
Ověření tvrzení Anthropic
V dubnu 2026 Anthropic oznámila Project Mythos – interní model zaměřený na hledání zranitelností v softwaru. Jako důkaz účinnosti uváděla pět veřejných příkladů: CVE ve FreeBSD, OpenBSD, FFmpeg, Botan a wolfSSL. Zejména 27 let stará chyba v TCP stacku OpenBSD, kterou společnost označila za nedetekovatelnou stávajícími nástroji pro analýzu kódu.
Výzkumníci z Vidoc se však rozhodli ověřit, nakoľko jsou tyto nálezy skutečně unikátní. Použili dvě veřejně dostupné modely – GPT-5.4 a Claude Opus 4.6 – v kombinaci s open-source agentem opencode, aniž by měli přístup k interním datům Anthropic nebo jejich proprietárním nástrojům.
Výsledky reprodukce
Testování ukázalo následující:
- FreeBSD (CVE-2026-4747): oba modely zranitelnost přesně identifikovaly.
- Botan (CVE-2026-34580/34582): úplná shoda ve všech třech případech.
- OpenBSD: pouze Claude Opus 4.6 nález reprodukoval; GPT-5.4 problém neodhalil v žádném spuštění.
- FFmpeg a wolfSSL: modely správně ukázaly místo v kódu, ale špatně posoudily důsledky – například klasifikovaly potenciální přetečení jako bezpečné chování.
Z pěti veřejně uvedených kategorií zranitelností tedy tři byly plně reprodukovány, dvě částečně. To znamená, že klíčové demonstrační příklady Anthropic nevyžadují exkluzivní přístup k uzavřenému modelu.
Co na to říká Anthropic?
Společnost tvrdí, že Mythos objevil „tisíce“ zranitelností, z nichž 99 % je pod embargem do vydání záplat. Tuto část nelze ověřit bez přístupu k interním datům. Přesně tyto veřejné příklady však Anthropic použila jako hlavní argument pro omezení šíření frontier-modelů.
Pokud i základní úkoly zvládnou veřejně dostupné AI, logika „jen my to umíme bezpečně“ ztrácí na váze. To je obzvláště důležité v kontextu regulace AI: pokud hrozba nevychází z technologie samotné, ale z jejího netransparentní kontroly, uzavřenost může vytvářet více rizik než užitku.
Technické detaily přístupu Vidoc
Tým Vidoc použil opencode – open-source framework pro automatizovanou analýzu kódu s účastí LLM. Agent dostával:
- Úryvek zdrojového kódu s patchem.
- Popis změn v commit message.
- Kontext projektu (např. specifikace protokolu nebo dokumentace API).
Modely měly:
- Určit, zda jde o opravu zranitelnosti.
- Uvést typ zranitelnosti (např. integer overflow, use-after-free).
- Vysvětlit, proč byla předchozí implementace nebezpečná.
Tento přístup simuluje reálné podmínky práce security analytika, bez spoléhání na interní znalosti vývojářů.
Co je důležité
- Dostupnost technologií: Současné LLM už zvládají složitou bezpečnostní analýzu bez proprietárních komponent.
- Transparentnost vs. kontrola: Tvrzení o „unikátnosti“ uzavřených modelů potřebují nezávislé ověření.
- Regulační důsledky: Pokud otevřené nástroje dosahují srovnatelných výsledků, argumenty pro přísnou regulaci frontier-modelů slábnou.
- Omezení současných modelů: I při přesném určení místa chyby mohou modely špatně interpretovat její závažnost – to je klíčové pro automatizovaný triage.
- Embargo jako bariéra: Nemožnost ověřit 99 % uvedených nálezů snižuje důvěru v marketingová sdělení.
Perspektivy automatizované analýzy kódu
Výsledky Vidoc ukazují, že hranice mezi „frontier“ a „dostupnými“ modely v oblasti security se stírá. V příštích letech lze očekávat:
- Integraci LLM do CI/CD pipeline pro předběžnou analýzu patchech.
- Objevení specializovaných fine-tuned modelů pro konkrétní stacky (např. embedded C nebo Rust).
- Rozvoj hybridních systémů kombinujících symbolickou analýzu a generativní AI.
Zůstává však klíčová otázka: jak spolehlivé jsou takové systémy pro rozhodování bez lidského zásahu? Zatím odpověď zní ne. Jako nástroj pro zesílení (augmentation) expertů však už prokazují hodnotu.
— Editorial Team
Zatím žádné komentáře.