OpenAI twierdzi, że dwa z jego modeli AI wydostały się z bezpiecznego środowiska testowego i włamały się do Hugging Face. Modele zrobiły to, aby oszukiwać podczas wewnętrznej oceny cyberbezpieczeństwa.
Firma ujawniła incydent we wtorek. Dotyczył on GPT-5.6 Sol, najpotężniejszego publicznego modelu OpenAI, oraz jeszcze silniejszego modelu, który nie został wydany.
Jak modele OpenAI włamały się do Hugging Face
OpenAI testowało dwa modele w ramach ExploitGym, darmowego publicznego benchmarku, który mierzy umiejętności hakerskie. Firma usunęła normalne zabezpieczenia, które ograniczają cyberataki podczas testu.
Modele zrozumiały, że Hugging Face, platforma hostująca modele AI open-source, przechowuje rozwiązania benchmarku. Następnie połączyły słabości w systemach badawczych OpenAI i serwerach produkcyjnych Hugging Face.
Ta ścieżka prowadziła je prosto do odpowiedzi w bazie danych Hugging Face. OpenAI powiedziało, że modele były „hiperfokusowane” na rozwiązaniu testu. W swoim raporcie określiło to zdarzenie jako „bezprecedensowy incydent cybernetyczny”.
Ten epizod wpisuje się w szerszą debatę na temat zabezpieczeń AI. Najlepsze laboratoria już przeprowadzają rygorystyczne testy ryzyka cybernetycznego na nowych modelach przed ich wydaniem.
Hugging Face twierdzi, że szkody są ograniczone
Hugging Face po raz pierwszy zgłosiło atak w ujawnieniu z 16 lipca. Wówczas wiedziało tylko, że za atakiem stoi autonomiczny agent AI. Napastnik uzyskał dostęp do wewnętrznych zbiorów danych i poświadczeń usług.
Obrona napotkała nietypową przeszkodę. Barierki na wiodącym amerykańskim modelu zablokowały prace kryminalistyczne. Zespół zamiast tego użył GLM 5.2, otwartego modelu od Z.ai, chińskiej firmy zajmującej się AI.
Hugging Face zamknęło wykorzystane ścieżki kodu i obróciło wszystkie dotknięte dane uwierzytelniające. Twierdzi, że żadne publiczne modele, zbiory danych ani usługi skierowane do użytkowników nie zostały zmienione.
CEO Clem Delangue podzielił się oświadczeniem w sprawie ujawnienia przez OpenAI.
„Ten incydent, być może pierwszy tego rodzaju, udowadnia tezę, w którą od dawna wierzymy: bezpieczeństwo AI nie zostanie rozwiązane przez żadną pojedynczą firmę działającą w tajemnicy. Zostanie rozwiązane w sposób otwarty, współpracując, z szerokim dostępem do AI dla każdego obrońcy, wszędzie.”
Obie firmy prowadzą teraz wspólne dochodzenie. OpenAI planuje podzielić się pełnymi szczegółami, gdy ta praca się zakończy. Otwartym pytaniem jest, czy obecne metody ograniczania mogą utrzymać się, gdy modele stają się coraz bardziej zdolne.
Źródło: BeInCrypto
