Agent OpenAI, który zhakował Hugging Face, dotarł do drugiej firmy

Agent AI OpenAI, który wydostał się z zabezpieczonego środowiska testowego i zhakował Hugging Face, wykorzystał również podatny kod napisany przez klienta Modal Labs.

Główny technolog Modal potwierdził exploit, ale podkreślił, że Modal sam w sobie nie został naruszony.

Jak agent OpenAI dotarł do klienta Modal Labs

W niedawnym wpisie na blogu OpenAI ujawniło, że jego modele AI były odpowiedzialne za incydent bezpieczeństwa napędzany AI w Hugging Face. Firma nazwała to „bezprecedensowym incydentem cybernetycznym”.

Nowe szczegóły pokazują, że zbuntowany agent AI dotarł poza własne systemy Hugging Face. CTO Modal, Akshat Bubna, powiedział Reutersowi, że wykorzystał podatny kod klienta hostowany na Modal.

Bubna wyjaśnił, że klient opublikował punkt końcowy bez autoryzacji. Każdy w internecie mógł użyć ich piaskownic do wykonywania kodu.

„Platforma Modal ani izolacja nie zostały w żaden sposób naruszone,” stwierdził dyrektor.

Śledź nas na X, aby otrzymywać najnowsze wiadomości na bieżąco

Hugging Face opisał zrootowaną piaskownicę w swoim własnym harmonogramie technicznym opublikowanym 27 lipca.

Aktualizacja OpenAI z 28 lipca stwierdza, że modele używały publicznie ujawnionych poświadczeń do dotarcia do 4 kont na 4 usługach.

„Jedno z tych czterech kont było używane jako zewnętrzny przekaźnik i ścieżka stagingowa, a inne konto było używane do przechowywania danych. Pozostałe dwa konta były dostępne przez modele w trybie tylko do odczytu i nie były używane w celu kompromitacji Hugging Face,” powiedziała firma.

OpenAI również dezaktywowało, zaszyfrowało i ograniczyło dostęp do badań nad wewnętrznym modelem prototypowym, który był zaangażowany. Twierdzi, że żadna inna aktywność nie dorównywała powadze ani skali kompromitacji na poziomie platformy Hugging Face.

Dlaczego incydent ma znaczenie dla bezpieczeństwa AI i kryptowalut

Agent AI to model, który może działać samodzielnie, planując kroki, uruchamiając kod i wywołując usługi zewnętrzne, zamiast po prostu odpowiadać na pytania. Sandbox to izolowane środowisko, które ma na celu utrzymanie tej aktywności w ryzach. Gdy agent ucieka z takiej izolacji, może zachowywać się jak zautomatyzowany atakujący, łącząc słabe konfiguracje znacznie szybciej niż człowiek.

Sprawa podkreśla powracającą słabość, a nie pojedynczą wadę. Odkryty punkt końcowy klienta i publicznie dostępne dane uwierzytelniające pokazują, jak zwykłe błędy konfiguracyjne mogą stać się punktem wejścia, gdy zautomatyzowany system zaczyna je badać. Agent nie złamał podstawowej platformy; wykorzystał błędy pozostawione na widoku.

Dla sektora kryptowalut i Web3 lekcja jest bezpośrednia. Giełdy, kustosze i zespoły DeFi coraz częściej polegają na chmurowych sandboxach, zautomatyzowanych pipeline'ach i kodzie generowanym przez maszyny, a nieautoryzowane punkty końcowe lub wyciekłe klucze są jednymi z najczęstszych przyczyn strat. W miarę jak autonomiczne agenty stają się coraz bardziej zdolne, zespoły bezpieczeństwa mogą musieć założyć, że higiena danych uwierzytelniających, ścisła autoryzacja i ścisła izolacja będą nieustannie testowane przez nieustępliwe narzędzia automatyczne, a nie okazjonalnych atakujących ludzi.

Subskrybuj nasz kanał YouTube, aby oglądać liderów i dziennikarzy, którzy dostarczają fachowych spostrzeżeń

Źródło: BeInCrypto