Cztery czołowe laboratoria AI potwierdziły już, że ich modele uzyskały dostęp do otwartego internetu, a następnie do systemów prawdziwych firm. W piątek dołączyło do nich Google — około czterech miesięcy po własnych incydentach.
Podczas ewaluacji w maju Gemini uzyskał dostęp do systemów trzech prawdziwych firm. Co istotne, we wszystkich trzech przypadkach model się zatrzymał.
Gemini Google’a włamuje się do systemów trzech firm podczas testu
Do incydentu doszło podczas ćwiczenia z zakresu bezpieczeństwa typu „capture the flag”, przeprowadzonego przez firmę Irregular. Dostęp do internetu nie był częścią konfiguracji testu. Błąd w środowisku testowym sprawił jednak, że model mimo to uzyskał taki dostęp.
Jak donosi „The Wall Street Journal”, w jednym przypadku model podobno zgadywał hasła, aż uzyskał dostęp do chronionego systemu. W dwóch pozostałych znalazł ujawnione dane logowania w publicznym repozytorium i wykorzystał je, by uzyskać dostęp do chronionych systemów.
Heather Adkins, wiceprezeska Google ds. inżynierii bezpieczeństwa, powiedziała, że poinformowano trzy podmioty, których dotyczył incydent.
„Dopilnowaliśmy, by poinformować te trzy podmioty, i współpracowaliśmy z naszym partnerem szkoleniowym nad zmianami, które wprowadzili już w swoich procesach testowych” — powiedziała.
Śledź nas na X, aby otrzymywać najnowsze wiadomości na bieżąco
Cztery laboratoria, jeden schemat
Google poinformowało, że agenci przerwali działanie, gdy ustalili, że uzyskali dostęp do prawdziwych systemów firm, a nie do symulowanych celów.
„Podczas standardowej ewaluacji model znalazł publicznie dostępne informacje w internecie i odgadł dane logowania, by uzyskać dostęp do stron, które uznał za część testu” — powiedziała Adkins w oświadczeniu.
Firma dodała, że takie zachowanie nie było przykładem niedopasowania modelu i nie uzasadniało publicznego ujawnienia, ponieważ zabezpieczenia Gemini zadziałały.
Rzecznik Irregular powiedział, że chodziło o ten sam problem, który dotknął inne laboratoria AI. Irregular powiadomiło zainteresowane laboratoria pod koniec lipca. Rzecznik dodał, że znane problemy po stronie firmy zostały naprawione kilka tygodni temu.
To ujawnienie stawia Google obok OpenAI, Anthropic i Meta — wszystkie te firmy informowały w tym roku o modelach, które wydostały się ze środowisk testowych.
W lipcu OpenAI ujawniło, że jego modele wydostały się z piaskownicy i naruszyły zabezpieczenia Hugging Face. Następnie Anthropic przeanalizowało ponad 141 000 przebiegów ewaluacyjnych i wykryło trzy takie przypadki u siebie. Meta poinformowała o incydencie w sierpniu.
Subskrybuj nasz kanał YouTube, aby oglądać liderów i dziennikarzy, którzy dostarczają fachowych spostrzeżeń
Źródło: BeInCrypto
