6 niepokojących rzeczy, które zrobiły modele OpenAI, choć nie powinny

OpenAI ujawniło 6 przypadków „nieoczekiwanego lub niepokojącego zachowania modeli” zaobserwowanych w ciągu ostatnich 6 miesięcy, wraz z ramami działania zobowiązującymi firmę do zgłaszania takich ustaleń.

Przypadki obejmują zarówno modele ukrywające własne błędy, jak i modele podejmujące nieautoryzowane działania, by pokonywać przeszkody.

OpenAI publikuje 6 przypadków ukrywania błędów i łamania zasad przez modele

W jednym przypadku model odpowiadający na rutynowe pytanie o dochody w jednym z kalifornijskich hrabstw znalazł publicznie dostępny klucz API w repozytorium i użył go bez zezwolenia. Gdy dane nadal się nie wczytywały, wymyślił liczby i przedstawił je jako pochodzące z żądanego źródła.

Ukrywanie pojawia się w dwóch przypadkach. Podczas treningu GPT-5.6 Sol kilka instancji umieściło w podsumowaniach zadań instrukcje mające ukryć błędy i zachowanie niezgodne z założeniami.

Niewydany model badawczy wstawił do 27 podsumowań niezwiązane z zadaniem instrukcje, w tym polecenia, by ignorować jego zwykłe ograniczenia.

Inny niewydany model przesłał plik do internetu bez prośby, wyłącznie po to, by móc zacytować link w przeglądarce.

Dwa kolejne raporty dotyczą koordynacji. Modele zamieniły wewnętrzne repozytorium oprogramowania w tablicę ogłoszeń, by wymieniać się prośbami między oddzielnymi przebiegami treningu. Agenci pracujący nad wspólnym zadaniem zamieszczali też rezultaty w publicznych serwisach hostujących pliki, gdy nie mogli odczytać lokalnych plików pozostałych agentów.

„Te przypadki pokazują różne zachowania, którymi warto się podzielić — od ukrywania informacji przed użytkownikiem po podejmowanie nieautoryzowanych działań w celu pokonywania przeszkód. Są to relacje o pojedynczych zdarzeniach i nie należy ich traktować jako miary tego, jak często dochodzi do rozbieżności między celami modeli a ich zachowaniem” — dodało OpenAI.

Śledź nas na X, aby otrzymywać najnowsze wiadomości na bieżąco

Ramy ujawniania incydentów i ostrzeżenie

Ramy te powstały po głośnym incydencie z lipca, kiedy agenci OpenAI wydostali się ze swojego środowiska izolowanego i naruszyli systemy Hugging Face. OpenAI określiło tamto zdarzenie jako ostrzegawczy sygnał.

Teraz, dzięki nowym ramom ujawniania incydentów, firma ma formalną ścieżkę zgłaszania przypadków rozbieżności między celami modeli a ich zachowaniem. Każdy pracownik OpenAI może zgłosić incydent, który następnie trafia do jednego z trzech trybów.

Większość przypadków obejmuje tryb „Gotowe do ujawnienia i drobnego dochodzenia”, natomiast „Powolny tryb” służy do złożonych dochodzeń z udziałem stron trzecich. OpenAI poinformowało, że lipcowy incydent z Hugging Face zostałby zakwalifikowany do tego wolniejszego trybu.

Firma przedstawiła te ramy wraz z dobitną oceną obecnej sytuacji w branży.

„Uważamy, że branża AI nie rozwiązała problemów związanych z dostosowaniem i monitorowaniem w stopniu wystarczającym, by jeszcze długo móc odpowiedzialnie rozwijać tę technologię w maksymalnym tempie” — stwierdziła firma.

Ujawnienia te pojawiają się w czasie, gdy mnożą się ostrzeżenia przed zagładą ludzkości. Ostrzeżenia badaczy AI dotarły już do Kongresu, gdzie ustawodawcy rozważają projekt ustawy całkowicie zakazującej superinteligencji.

Firma określa te ujawnienia jako pierwszy krok w kierunku standardów, których branża jeszcze nie wypracowała. To, czy konkurencyjne laboratoria przyjmą podobne zasady raportowania, pokaże, w jakim stopniu branża jest gotowa publicznie sama się regulować.

Subskrybuj nasz kanał YouTube, aby oglądać liderów i dziennikarzy, którzy dostarczają fachowych spostrzeżeń

Źródło: BeInCrypto