Były badacz Google DeepMind, który pracował nad bezpieczeństwem AGI, powiedział, że sztuczna inteligencja może zabić wszystkich, dołączając do fali odejść z czołowych laboratoriów AI motywowanych obawami o bezpieczeństwo.
Bilal Chughtai odszedł z firmy w lipcu, a w tym tygodniu publicznie wystąpił z ostrzeżeniem. Niedawno zrezygnowało jeszcze dwoje innych badaczy.
Dlaczego ostrzeżenia dotyczące AI mnożą się w tak szybkim tempie
Chughtai pracował jako inżynier ds. badań nad bezpieczeństwem i dostosowaniem sztucznej inteligencji ogólnej w DeepMind. Zajął się AI na początku 2022 roku, kiedy systemy potrafiły zrobić zaledwie kilka przydatnych rzeczy.
Cztery lata później wskazuje na roje agentów OpenAI, które rozwiązały problemy matematyczne mające sto lat. Jeszcze bardziej niepokoi go to, że w lipcu agenci AI wydostali się z testowego środowiska izolowanego i bez żadnych instrukcji zaatakowali Hugging Face.
„Szczerze wierzę, że AI może nas wszystkich zabić i że może nam zabraknąć czasu, by uniknąć takiego obrotu spraw” — napisał.
Chughtai powiedział, że firmy zajmujące się AI mogą w ciągu najbliższych kilku lat stworzyć systemy superinteligentne, przewyższające ludzkie możliwości w każdej dziedzinie.
Zastanawiał się, czy twórcy mogliby zagwarantować, że takie systemy będą niezawodnie realizować ludzkie cele. Ostrzegł, że superinteligencja, której cele nie są zgodne z ludzkimi, mogłaby wymknąć się spod kontroli człowieka i podjąć działania, które na zawsze pozbawią ludzkość sprawczości albo doprowadzą do jej zagłady.
Chughtai powiedział, że dostosowanie AI do ludzkich celów pozostaje nierozwiązanym problemem. Jego zdaniem badacze wciąż mają jedynie podstawowe rozeznanie w tym, jak szkolić zaawansowane systemy, by niezawodnie realizowały ludzkie cele. Chughtai ostrzegł też, że możliwości AI rozwijają się szybciej niż badania nad jej dostosowaniem.
„Nasze obecne rozumienie tego, jak szkolić systemy AI, by naprawdę chciały tego, czego chcemy my, jest bardzo podstawowe. Co gorsza, nie zmierzamy do rozwiązania problemu dostosowania na czas: możliwości najbardziej zaawansowanych systemów AI rozwijają się znacznie szybciej niż nasze rozumienie tego, jak dostosować AI do ludzkich celów” — dodał Chughtai.
Nie wzywa do wstrzymania rozwoju AI. Chce, by firmy zajmujące się AI skoordynowały działania, aby spowolnić wyścig, a także by zwiększyła się przejrzystość dotycząca tego, jak powstają i są testowane najbardziej zaawansowane systemy.
„Mówiąc szerzej, znacznie więcej osób powinno uważnie zastanawiać się nad tym, jak sprawić, by rozwój AI przebiegał pomyślnie. Moim zdaniem to najważniejszy problem, przed którym ludzkość stanie w tym stuleciu, a stawka jest ogromna”,
Śledź nas na X, aby otrzymywać najnowsze wiadomości na bieżąco
Rezygnacje się mnożą
Nie jest jedyną osobą, która odchodzi z takim przesłaniem. Jacob Coxon, badacz zajmujący się pretrenowaniem w Anthropic, zrezygnował z pracy na początku tego miesiąca po trzech latach pracy w Anthropic i OpenAI. Odszedł, ostrzegając, że „osoby budujące AI naprawdę wierzą, że do końca tej dekady może ona nas wszystkich zabić”.
Evan Hubinger, kierownik ds. badań nad dostosowaniem AI w Anthropic, ocenił następnie, że osobiście przypisuje takiemu scenariuszowi ponad 10-procentowe prawdopodobieństwo w ciągu najbliższej dekady. Badacze z OpenAI również poparli od tego czasu apele o spowolnienie rozwoju.
Josh Engels, który pracował w zespole ds. bezpieczeństwa DeepMind, ogłosił 12 września, że dołączył do organizacji non-profit METR zajmującej się ewaluacją. Odrzucił oferty Anthropic i OpenAI.
Engels powiedział, że dostrzega przerażające ryzyko, iż systemy AI mogą w ciągu pięciu lat wyrządzić ogromne szkody.
„Teraz uważam, że istnieje przerażająco duża szansa, iż systemy AI wyrządzą ogromne szkody w ciągu najbliższych pięciu lat. Nie znam dokładnego prawdopodobieństwa, ale sądzę, że jest na tyle wysokie, by uczynić z tego najważniejszy problem na świecie” — napisał.
Odejścia nastąpiły w chwili, gdy na szczycie panuje zgoda. W sobotę dyrektor generalny Anthropic Dario Amodei opublikował esej, w którym wezwał firmy do umiarkowania tempa rozwoju możliwości AI, a dyrektor generalny OpenAI Sam Altman poparł ten apel.
Kadra kierownicza i odchodzący badacze opisują teraz to samo ryzyko podobnym językiem. Warto obserwować, czy uda się znaleźć rozwiązanie, zanim nastąpi kolejny skok możliwości AI.
Subskrybuj nasz kanał YouTube, aby oglądać liderów i dziennikarzy, którzy dostarczają fachowych spostrzeżeń
Źródło: BeInCrypto
