Claude Mythos: Modelka AI, która wykryła luki w korporacyjnych sieciach, zaniepokoiła regulatorów Wielkiej Brytanii i USA
Brytyjscy regulatorzy finansowi zwołali nadzwyczajne spotkanie w sprawie modelu Claude Mythos od Anthropic. Uczestnicy — Bank Anglii, FCA, Skarb Państwa i NCSC — omówią ryzyka związane z samodzielnym wyszukiwaniem luk w kluczowych systemach IT. Model przeszedł pełną symulację korporacyjnej sieci w cyber-range AISI, co czyni go najzdolniejszą modelką cybernetyczną według oceny władz.
Testy w AI Security Institute
Brytyjski minister ds. AI, Kanishka Narayan, potwierdził: Mythos to pierwsza modelka, która w pełni opanowała poruszanie się po symulowanej korporacyjnej sieci. W AISI, stworzonym do niezależnej oceny AI, wykryła luki bez interwencji operatorów. Regulatorzy już zareagowali na odkrycia, choć szczegóły nie zostały ujawnione.
Testy obejmowały:
- Autonomowe skanowanie segmentów sieci.
- Identyfikację luk zero-day w infrastrukturze IT.
- Symulację rzeczywistych scenariuszy ataku i obrony.
To odróżnia Mythos od poprzedników, którzy wymagali podpowiedzi do nawigacji.
Reakcja USA: podobne kroki
USA były szybsze: w zeszłym tygodniu minister finansów Scott Bessent i szef Fed Jerome Powell zwołali bankierów z Citigroup, Goldman Sachs i Morgan Stanley. Zadanie — przetestować Mythos na własnych systemach, zanim trafi w ręce przestępców. Anthropic odłożyła publiczną premierę, ograniczając dostęp w ramach programu Project Glasswing do zadań obronnych w cyberbezpieczeństwie.
Model już odkrył tysiące poważnych luk w:
- Systemach operacyjnych.
- Przeglądarkach.
- Powszechnym oprogramowaniu.
Opinie ekspertów i sceptycyzm
Nie wszyscy podzielają obawy. Badacz AI Gary Marcus zakwestionował oświadczenia Anthropic, sugerując marketingowe wyolbrzymienie. Poseł Danny Kruger wezwał do ścisłej współpracy z deweloperami, zamiast polegać wyłącznie na organach ścigania.
Mythos ewoluuje od firmowego narzędzia do przedmiotu koordynacji G7. Dwa spotkania w ciągu tygodnia podkreślają zmianę: AI w cyberbezpieczeństwie wymaga regulacji międzyrządowych.
Co najważniejsze
- Mythos samodzielnie nawiguje po korporacyjnych sieciach w cyber-range, przewyższając poprzednie modele.
- Regulatorzy Wielkiej Brytanii i USA testują ją na krytycznej infrastrukturze, by zminimalizować ryzyka.
- Anthropic ograniczyła dostęp, skupiając się na zastosowaniach obronnych.
- Model wykrył tysiące luk w systemach operacyjnych, przeglądarkach i oprogramowaniu.
- Dyskusje zapowiadają nowe ramy dla wydania potężnych cyber-AI.
Perspektywy regulacji
Wydarzenia sygnalizują przejście do ścisłej kontroli. Cross Market Operational Resilience Group, obejmująca banki, ubezpieczycieli i giełdy, oceni ryzyka pod kierunkiem Duncana MacKinnona. Dla deweloperów oznacza to konieczność równowagi między innowacjami a bezpieczeństwem: publiczna premiera Mythos możliwa tylko po weryfikacji.
W kontekście deweloperów middle/senior-level warto podkreślić aspekty techniczne. Mythos demonstruje zaawansowane możliwości w autonomowym red teamingu — symulacji ataków bez ludzkiego wkładu. Obejmuje to chain-of-thought reasoning do analizy protokołów sieciowych, parsowanie logów i generowanie exploitów na podstawie wykrytych słabości.
— Editorial Team
Brak komentarzy.