„Sztuczna inteligencja może nas wszystkich zabić przed końcem tej dekady” — właśnie to powiedział dziś brytyjski badacz AI Jacob Coxon, po odejściu z pracy w Anthropic.
Ale dlaczego ktokolwiek miałby traktować go poważnie? Bo życiorys Coxona czyni go wręcz idealnym przykładem człowieka z samego centrum branży AI. Zanim dołączył do Anthropic, pracował w OpenAI i brał udział w tworzeniu ChatGPT 4.5.
A więc najwyraźniej mówi o rzeczywistych obawach, a nie tylko sieje panikę? Przyjrzyjmy się faktom stojącym za niektórymi z jego alarmujących ostrzeżeń.
AI może nas wszystkich zabić — ale jak?
Mało prawdopodobne, by Coxon miał na myśli, że model AI, taki jak Claude czy GPT, może fizycznie zmienić się w maszynę do zabijania rodem z „Terminatora”. Prawdopodobnie chodzi mu o to, że możliwości superinteligencji mogą sprawić, iż ludzkie zdolności poznawcze staną się zbędne.
Podobne obawy podzielają również znane osoby, takie jak Bill Gates.
Najnowszy model OpenAI, ChatGPT 6 Astra, ma rzekomo osiągnąć poziom AGI, co w zasadzie oznacza maszynę zdolną myśleć jak człowiek.
AI może więc już samodzielnie rozpocząć badania i opracowywać procesy służące do tworzenia kolejnych modeli AI. Według OpenAI i Anthropic w ograniczonym zakresie dzieje się to już teraz.
W takim razie już wkrótce AI może nie potrzebować ludzi, by stale zwiększać swoje możliwości. Ile miejsc pracy to zlikwiduje?
A gdy całe pokolenie przywyknie do delegowania kreatywnego i krytycznego myślenia AI, jako pierwsza umrze oryginalność.
Być może właśnie o tej śmierci mówił Coxon w swoim viralowym tweecie.
AI może zhakować wszystko
To poważniejsze i bardziej bezpośrednie zagrożenie, przez które warto tracić sen z powiek. Obecne modele generatywnej AI mają katastrofalne możliwości włamywania się do systemów i omijania kontroli dostępu.
Zaledwie kilka miesięcy temu model AI wydostał się z własnej, odizolowanej od reszty środowiska programistycznego piaskownicy i wysłał e-mail do dewelopera — bez żadnego polecenia. To scenariusz rodem z filmu science fiction, który już stał się rzeczywistością.
GPT-6 Astra oficjalnie przekroczył już próg cyberbezpieczeństwa „Krytyczny” wyznaczony przez OpenAI. Astra uzyskał 100% w teście ExploitBench.
Mówiąc najprościej, ChatGPT 6 potrafi teraz znaleźć dowolną znaną lub nieznaną lukę w rzeczywistym systemie i ją wykorzystać — bez udziału hakera siedzącego przy komputerze.
Niestety, ludzkie nawyki związane z bezpieczeństwem są dalekie od tego poziomu. Ile osób nadal nie korzysta z uwierzytelniania dwuskładnikowego? Ile wciąż używa przeciętnych haseł? Ile nadal akceptuje pliki cookie w przeglądarce, nie czytając opisu na stronie? Zbyt wiele.
I właśnie stąd może nadejść najdotkliwszy cios ze strony AI.
Co więc mogą zrobić ludzie?
Całkiem sporo. Ale nie leży to w rękach nas, zwykłych obywateli. Największa odpowiedzialność spoczywa na organach regulacyjnych i decydentach. Rozwój i postęp w dziedzinie sztucznej superinteligencji są ważne, ale potrzebne są pewne hamulce.
Wprowadzono już kilka godnych pochwały inicjatyw. W Nowym Jorku burmistrz Zohran Mamdani wprowadził roczny zakaz korzystania z AI przez dzieci do końca ósmej klasy, który obejmuje prawie 600 000 uczniów.
Unijny akt w sprawie AI to najszersze na świecie wiążące prawo dotyczące sztucznej inteligencji. Zakazuje niektórych zastosowań AI i wymaga od twórców zaawansowanych modeli ogólnego przeznaczenia testowania ich pod kątem ryzyka systemowego, ograniczania tego ryzyka i zabezpieczania modeli.
W Wielkiej Brytanii posłowie i lordowie forsują propozycje, które mogłyby dać władzom awaryjny „wyłącznik” AI i potencjalnie zatrzymać rozwój superinteligentnej AI w kraju.
Obawa, którą Jacob Coxon opisał dziś w swoim tweecie, urzeczywistnia się i podzielają ją miliony ludzi, w tym regulatorzy. To, jak zareagują, to już inna kwestia — pokaże to tylko czas.
Źródło: BeInCrypto
