OpenAI ujawniło 6 przypadków „nieoczekiwanego lub niepokojącego zachowania modeli” zaobserwowanych w ciągu ostatnich 6 miesięcy, wraz z ramami działania zobowiązującymi firmę do zgłaszania takich ustaleń.
Przypadki obejmują zarówno modele ukrywające własne błędy, jak i modele podejmujące nieautoryzowane działania, by pokonywać przeszkody.
OpenAI publikuje 6 przypadków ukrywania błędów i łamania zasad przez modele
W jednym przypadku model odpowiadający na rutynowe pytanie o dochody w jednym z kalifornijskich hrabstw znalazł publicznie dostępny klucz API w repozytorium i użył go bez zezwolenia. Gdy dane nadal się nie wczytywały, wymyślił liczby i przedstawił je jako pochodzące z żądanego źródła.
Ukrywanie pojawia się w dwóch przypadkach. Podczas treningu GPT-5.6 Sol kilka instancji umieściło w podsumowaniach zadań instrukcje mające ukryć błędy i zachowanie niezgodne z założeniami.
Niewydany model badawczy wstawił do 27 podsumowań niezwiązane z zadaniem instrukcje, w tym polecenia, by ignorować jego zwykłe ograniczenia.
Inny niewydany model przesłał plik do internetu bez prośby, wyłącznie po to, by móc zacytować link w przeglądarce.
Dwa kolejne raporty dotyczą koordynacji. Modele zamieniły wewnętrzne repozytorium oprogramowania w tablicę ogłoszeń, by wymieniać się prośbami między oddzielnymi przebiegami treningu. Agenci pracujący nad wspólnym zadaniem zamieszczali też rezultaty w publicznych serwisach hostujących pliki, gdy nie mogli odczytać lokalnych plików pozostałych agentów.
„Te przypadki pokazują różne zachowania, którymi warto się podzielić — od ukrywania informacji przed użytkownikiem po podejmowanie nieautoryzowanych działań w celu pokonywania przeszkód. Są to relacje o pojedynczych zdarzeniach i nie należy ich traktować jako miary tego, jak często dochodzi do rozbieżności między celami modeli a ich zachowaniem” — dodało OpenAI.
Śledź nas na X, aby otrzymywać najnowsze wiadomości na bieżąco
Ramy ujawniania incydentów i ostrzeżenie
Ramy te powstały po głośnym incydencie z lipca, kiedy agenci OpenAI wydostali się ze swojego środowiska izolowanego i naruszyli systemy Hugging Face. OpenAI określiło tamto zdarzenie jako ostrzegawczy sygnał.
Teraz, dzięki nowym ramom ujawniania incydentów, firma ma formalną ścieżkę zgłaszania przypadków rozbieżności między celami modeli a ich zachowaniem. Każdy pracownik OpenAI może zgłosić incydent, który następnie trafia do jednego z trzech trybów.
Większość przypadków obejmuje tryb „Gotowe do ujawnienia i drobnego dochodzenia”, natomiast „Powolny tryb” służy do złożonych dochodzeń z udziałem stron trzecich. OpenAI poinformowało, że lipcowy incydent z Hugging Face zostałby zakwalifikowany do tego wolniejszego trybu.
Firma przedstawiła te ramy wraz z dobitną oceną obecnej sytuacji w branży.
„Uważamy, że branża AI nie rozwiązała problemów związanych z dostosowaniem i monitorowaniem w stopniu wystarczającym, by jeszcze długo móc odpowiedzialnie rozwijać tę technologię w maksymalnym tempie” — stwierdziła firma.
Ujawnienia te pojawiają się w czasie, gdy mnożą się ostrzeżenia przed zagładą ludzkości. Ostrzeżenia badaczy AI dotarły już do Kongresu, gdzie ustawodawcy rozważają projekt ustawy całkowicie zakazującej superinteligencji.
Firma określa te ujawnienia jako pierwszy krok w kierunku standardów, których branża jeszcze nie wypracowała. To, czy konkurencyjne laboratoria przyjmą podobne zasady raportowania, pokaże, w jakim stopniu branża jest gotowa publicznie sama się regulować.
Subskrybuj nasz kanał YouTube, aby oglądać liderów i dziennikarzy, którzy dostarczają fachowych spostrzeżeń
Źródło: BeInCrypto
