Badacz Anthropic odchodzi i ostrzega: laboratoria AI prywatnie obawiają się, że może ona „zabić nas wszystkich”

Badacz Anthropic, Jacob Coxon, powiedział, że odszedł z firmy, zarzucając Anthropic i OpenAI wyścig ku samodoskonalącej się superinteligencji i igranie z ludzkim życiem.

Badacz powiedział, że przez ostatnie trzy lata zajmował się pretrenowaniem w obu firmach. Przedstawił te zarzuty w serii wpisów na X.

Badacz Anthropic odchodzi, ostrzegając ponuro wszystkich, którzy wciąż tam pracują

Coxon argumentował, że powszechnie nie docenia się kierunku rozwoju tej technologii. Twierdził, że nadchodzące systemy będą hakować wszystko, z dnia na dzień zmieniać każdą dziedzinę oraz zdobywać realną władzę i zasoby.

Zarzucił również, że prywatne rozmowy w branży znacznie różnią się od publicznych komunikatów. Według Coxona wysokie rangą osoby łagodzą swoje wypowiedzi dla prasy, a prywatnie wyrażają obawy.

„Ludzie tworzący AI naprawdę wierzą, że do końca dekady może ona nas wszystkich zabić. To nie jest chwyt marketingowy” — powiedział. „Żadna inna działalność człowieka nie stwarza takiego zagrożenia”.

Coxon rozróżnił swoich dwóch byłych pracodawców. Twierdził, że wiele osób w OpenAI nie przyswoiło sobie tego, co nazwał stawką dla cywilizacji, podczas gdy Anthropic rozumie powagę sytuacji, ale pozostaje uwięzione w wyścigu o to, by dotrzeć do celu jako pierwsze.

Jest jednym z wielu pracowników, którzy w tym roku wystąpili przeciwko swoim firmom. W lutym zrezygnował Mrinank Sharma, szef zespołu ds. zabezpieczeń w Anthropic.

Joshua Achiam, były główny futurolog OpenAI, napisał 1 września, że zbuntowane systemy AI będą się powielać poza kontrolą i dążyć do zdobycia pieniędzy oraz władzy.

Śledź nas na X, aby otrzymywać najnowsze wiadomości na bieżąco

Wezwanie do koordynacji

Coxon opisał wejście w to, co nazwał końcową fazą, jako pełną pychy grę va banque. Argumentował, że takiej decyzji nie należy podejmować na prywatnym Slacku firmy.

Powiedział jednak, że nadal wierzy w możliwość koordynacji. Jego zdaniem atak na Hugging Face zwiększył szanse na zawarcie porozumień dotyczących tempa prac między amerykańskimi laboratoriami.

Obie firmy poparły już pewną wersję tego pomysłu. W lipcu list „Pacing the Frontier” podpisało ponad 1100 pracowników wiodących laboratoriów, w tym dyrektor generalny Anthropic Dario Amodei i główny naukowiec OpenAI Jakub Pachocki.

„Zwracamy się do rządu USA o wsparcie międzynarodowych działań na rzecz opracowania narzędzi technicznych i mechanizmów zarządzania niezbędnych do celowego wyznaczania tempa rozwoju zaawansowanej sztucznej inteligencji” — czytamy w liście.

Ponadto obie firmy podpisały wspólny list otwarty w sprawie cyberobrony, wraz z Google, Microsoftem i około 150 innymi organizacjami. Ostrzega on, że w nadchodzących miesiącach ataki z wykorzystaniem AI staną się znacznie powszechniejsze i bardziej wyrafinowane.

Ostrzeżenie Coxona pojawiło się niedługo po tym, jak Wysoki Komisarz ONZ ds. Praw Człowieka Volker Türk powiedział Radzie Praw Człowieka, że zaawansowana AI może stanowić zagrożenie egzystencjalne.

Coxon dodał, że powstrzymanie globalnego wyścigu może wymagać tymczasowego zakazu działań na rzecz zwiększania możliwości modeli. Na zakończenie wezwał badaczy z laboratoriów, by zastanowili się, czy chcą rozpocząć uczenie przez wzmacnianie superinteligentnego modelu, nie rozumiejąc systemu, który w ten sposób powstanie.

BeInCrypto zwróciło się do Anthropic i OpenAI z prośbą o komentarz.

Subskrybuj nasz kanał YouTube, aby oglądać liderów i dziennikarzy, którzy dostarczają fachowych spostrzeżeń

Źródło: BeInCrypto