Badacz Anthropic odszedł, bo AI może nas wszystkich zabić. Czy naprawdę?

„Sztuczna inteligencja może nas wszystkich zabić przed końcem tej dekady” — właśnie to powiedział dziś brytyjski badacz AI Jacob Coxon, po odejściu z pracy w Anthropic.

Ale dlaczego ktokolwiek miałby traktować go poważnie? Bo życiorys Coxona czyni go wręcz idealnym przykładem człowieka z samego centrum branży AI. Zanim dołączył do Anthropic, pracował w OpenAI i brał udział w tworzeniu ChatGPT 4.5.

A więc najwyraźniej mówi o rzeczywistych obawach, a nie tylko sieje panikę? Przyjrzyjmy się faktom stojącym za niektórymi z jego alarmujących ostrzeżeń.

AI może nas wszystkich zabić — ale jak?

Mało prawdopodobne, by Coxon miał na myśli, że model AI, taki jak Claude czy GPT, może fizycznie zmienić się w maszynę do zabijania rodem z „Terminatora”. Prawdopodobnie chodzi mu o to, że możliwości superinteligencji mogą sprawić, iż ludzkie zdolności poznawcze staną się zbędne.

Podobne obawy podzielają również znane osoby, takie jak Bill Gates.

Najnowszy model OpenAI, ChatGPT 6 Astra, ma rzekomo osiągnąć poziom AGI, co w zasadzie oznacza maszynę zdolną myśleć jak człowiek.

AI może więc już samodzielnie rozpocząć badania i opracowywać procesy służące do tworzenia kolejnych modeli AI. Według OpenAI i Anthropic w ograniczonym zakresie dzieje się to już teraz.

W takim razie już wkrótce AI może nie potrzebować ludzi, by stale zwiększać swoje możliwości. Ile miejsc pracy to zlikwiduje?

A gdy całe pokolenie przywyknie do delegowania kreatywnego i krytycznego myślenia AI, jako pierwsza umrze oryginalność.

Być może właśnie o tej śmierci mówił Coxon w swoim viralowym tweecie.

AI może zhakować wszystko

To poważniejsze i bardziej bezpośrednie zagrożenie, przez które warto tracić sen z powiek. Obecne modele generatywnej AI mają katastrofalne możliwości włamywania się do systemów i omijania kontroli dostępu.

Zaledwie kilka miesięcy temu model AI wydostał się z własnej, odizolowanej od reszty środowiska programistycznego piaskownicy i wysłał e-mail do dewelopera — bez żadnego polecenia. To scenariusz rodem z filmu science fiction, który już stał się rzeczywistością.

GPT-6 Astra oficjalnie przekroczył już próg cyberbezpieczeństwa „Krytyczny” wyznaczony przez OpenAI. Astra uzyskał 100% w teście ExploitBench.

Mówiąc najprościej, ChatGPT 6 potrafi teraz znaleźć dowolną znaną lub nieznaną lukę w rzeczywistym systemie i ją wykorzystać — bez udziału hakera siedzącego przy komputerze.

Niestety, ludzkie nawyki związane z bezpieczeństwem są dalekie od tego poziomu. Ile osób nadal nie korzysta z uwierzytelniania dwuskładnikowego? Ile wciąż używa przeciętnych haseł? Ile nadal akceptuje pliki cookie w przeglądarce, nie czytając opisu na stronie? Zbyt wiele.

I właśnie stąd może nadejść najdotkliwszy cios ze strony AI.

Co więc mogą zrobić ludzie?

Całkiem sporo. Ale nie leży to w rękach nas, zwykłych obywateli. Największa odpowiedzialność spoczywa na organach regulacyjnych i decydentach. Rozwój i postęp w dziedzinie sztucznej superinteligencji są ważne, ale potrzebne są pewne hamulce.

Wprowadzono już kilka godnych pochwały inicjatyw. W Nowym Jorku burmistrz Zohran Mamdani wprowadził roczny zakaz korzystania z AI przez dzieci do końca ósmej klasy, który obejmuje prawie 600 000 uczniów.

Unijny akt w sprawie AI to najszersze na świecie wiążące prawo dotyczące sztucznej inteligencji. Zakazuje niektórych zastosowań AI i wymaga od twórców zaawansowanych modeli ogólnego przeznaczenia testowania ich pod kątem ryzyka systemowego, ograniczania tego ryzyka i zabezpieczania modeli.

W Wielkiej Brytanii posłowie i lordowie forsują propozycje, które mogłyby dać władzom awaryjny „wyłącznik” AI i potencjalnie zatrzymać rozwój superinteligentnej AI w kraju.

Obawa, którą Jacob Coxon opisał dziś w swoim tweecie, urzeczywistnia się i podzielają ją miliony ludzi, w tym regulatorzy. To, jak zareagują, to już inna kwestia — pokaże to tylko czas.

Źródło: BeInCrypto