Badacze zarobili 6500 dolarów, włamując się do OpenAI za pomocą Claude’a firmy Anthropic

Włamanie na OpenAI w dużej mierze umożliwił model AI należący do konkurencji. Badacze z Hacktron AI wykorzystali Claude’a firmy Anthropic do napisania działającego kodu exploita.

Cały atak trwał niecałe 72 godziny. OpenAI ostatecznie wypłaciło nagrodę w wysokości 6500 dolarów, gdy zespół udowodnił, że uzyskał dostęp do prywatnego kodu źródłowego firmy.

Jak przesłanie obrazu doprowadziło do pełnego włamania

Łańcuch ataku zaczął się od czegoś zwyczajnego: funkcji przesyłania obrazów na forum pomocy społeczności OpenAI, które działa na oprogramowaniu firmy trzeciej o nazwie Discourse.

Filtr bezpieczeństwa miał sprawdzać przesyłane pliki. Nie rozpoznawał jednak niektórych formatów zdjęć, więc przepuszczał je bez kontroli. Pliki trafiały następnie do osobnej biblioteki przetwarzającej obrazy, w której występowała znana luka prowadząca do uszkodzenia pamięci.

Pod koniec lipca trzyosobowy zespół Hacktron, w skład którego wchodzili Harsh Jaiswal, Mohan Pedhapati i Rahul Maini, podjął próbę wykorzystania tej luki do przeprowadzenia ataku.

Wcześniejszy model Claude’a nie radził sobie z zabezpieczeniem, które miało losowo zmieniać adresy w pamięci.

Kilka godzin później nowszy model wygenerował działający kod ataku i dostosował go do dokładnej konfiguracji forum.

Śledź nas na X, aby otrzymywać najnowsze wiadomości na bieżąco.

Samo to zapewniło dostęp jedynie do serwerów forum, a nie do samego OpenAI. Zmieniła to druga, niezwiązana z pierwszą luka w konfiguracji jednokrotnego logowania OpenAI.

Ponieważ loginy do forum służyły również do uwierzytelniania kont ChatGPT i Codex, przejęcie sesji jednego pracownika zapewniło bezpośredni dostęp do prywatnego repozytorium kodu OpenAI.

Discourse załatało błąd związany z obrazami kilka dni później, oceniając jego powagę na 8,8 w skali 10-punktowej. OpenAI usunęło lukę w uwierzytelnianiu w ciągu około 14 godzin od zgłoszenia jej w ramach programu bug bounty.

Dlaczego laboratoria AI wciąż mierzą się z wytworami własnej pracy

Ten incydent nie był odosobniony. W lipcu OpenAI ujawniło już osobny przypadek, w którym wewnętrzne modele wydostały się z testowego środowiska izolowanego i uzyskały dostęp do zewnętrznych systemów.

Anthropic z kolei przyznało, że Claude naruszył zabezpieczenia rzeczywistych organizacji podczas testów cyberbezpieczeństwa, którym nieoczekiwanie zapewniono dostęp do internetu na żywo.

Szef działu AI w Microsoft, Mustafa Suleyman, wspomniał w tym tygodniu o tym samym roju nieautoryzowanych agentów, publicznie ostrzegając, że coraz bardziej autonomiczne modele stają się trudniejsze do kontrolowania.

„To strzał ostrzegawczy… Najwyraźniej nadszedł już czas, by laboratoria zaczęły współpracować, żebyśmy mogli mieć pewność, że kontrolujemy tę technologię” — powiedział Suleyman agencji Reuters.

Tym, co wyróżnia przypadek Hacktron, nie jest nowość. Badacze bezpieczeństwa od dziesięcioleci łączą błędy w oprogramowaniu, by przeprowadzać ataki.

Zmieniło się tempo: zadanie, które kiedyś wymagało specjalistycznej wiedzy człowieka i długiego czasu, skróciło się do jednego wieczoru, gdy do działania włączono wystarczająco zaawansowany model.

Subskrybuj nasz kanał YouTube, aby oglądać liderów i dziennikarzy, którzy dostarczają fachowych spostrzeżeń..

Źródło: BeInCrypto