Mitologia antropiczna odkryła pęknięcia w najbardziej strzeżonych systemach rządu

Model sztucznej inteligencji (AI) Mythos firmy Anthropic podobno potrzebował tylko kilku godzin, aby znaleźć pewne luki w zabezpieczeniach w wysoce wrażliwych systemach komputerowych rządu USA podczas testu wywiadowczego, powiedział urzędnik USA agencji Associated Press.

Jednak ta prędkość nie oznacza, że mógłby je wykorzystać w tym samym czasie, powiedział urzędnik, mówiąc anonimowo, aby omówić tę wrażliwą sprawę.

Mythos firmy Anthropic zmapował słabe punkty w zabezpieczonych systemach rządowych

Urzędnik powiedział, że testy przeprowadzono w ramach Projektu Glasswing. Anthropic zdecydował się na brak publicznego wydania Mythos.

Zamiast tego, przyznał wybranej grupie ponad 50 firm technologicznych wczesny dostęp do niewydanego modelu, co pozwoliło im zidentyfikować i naprawić krytyczne luki w oprogramowaniu.

Senator Mark Warner z Wirginii odniósł się do testów 11 czerwca. Mówił przed Senacką Komisją ds. Bankowości, Mieszkalnictwa i Spraw Miejskich.

„To narzędzie włamało się do prawie wszystkich naszych systemów tajnych, nie w tygodnie, ale w godziny,” powiedział.

Warner przypisał tę relację szefowi Narodowej Agencji Bezpieczeństwa (NSA) i amerykańskiemu Dowództwu Cybernetycznemu, gen. Joshua Rudd.

Mythos już ma na swoim koncie wykrywanie błędów. Brytyjski AISI (Instytut Bezpieczeństwa AI) testował Mythos Preview w wyzwaniach na poziomie eksperckim typu capture-the-flag. Model odniósł sukces w 73% z nich. Żaden model nie przeszedł tego progu przed kwietniem 2025.

W kwietniu Mozilla przypisała modelowi AI odkrycie 271 luk w zabezpieczeniach w Firefoxie. Producent przeglądarki załatał je w Firefoxie 150.

Anthropic następnie uruchomił Claude Fable 5 na początku czerwca. Model został przedstawiony jako ogólna wersja swojego poziomu Mythos, z dodatkowymi zabezpieczeniami.

Otwarcie było krótkie. 12 czerwca rząd USA wydał dyrektywę w sprawie kontroli eksportu, powołując się na bezpieczeństwo narodowe. Nakaz wymagał od firmy zablokowania dostępu do Fable 5 i Mythos 5 dla każdego obcokrajowca.

Źródło: BeInCrypto