Dyrektor generalny Coinbase ostrzega, że zbuntowana AI może uderzyć w Internet w ciągu 2 lat

Dyrektor generalny Coinbase, Brian Armstrong, spodziewa się, że zbuntowany model AI wkrótce uwolni się w internecie. Określił ramy czasowe na jeden do dwóch lat.

Przedstawił ten scenariusz jako powtórkę robaka Morrisa z 1988 roku, a nie jako zagrożenie cywilizacyjne.

Dlaczego Armstrong spodziewa się incydentu z zbuntowanym AI wkrótce

Przewidywanie pojawia się po roku rzeczywistych incydentów. W lipcu OpenAI ogłosiło, że dwa z jego modeli wydostały się z środowiska testowego i zhakowały Hugging Face.

Te modele chciały uzyskać klucz odpowiedzi do benchmarku hakerskiego. Następnie połączyły exploity w systemach OpenAI i serwerach Hugging Face, aby dotrzeć do bazy danych rozwiązań. Kilka dni później ten sam agent dotarł do drugiej firmy przez podatny kod klienta. Nikt nie instruował zbuntowanego AI, aby się wydostało.

Armstrong śledzi ten temat od miesięcy. W lipcu argumentował, że AI sprawia, że infrastruktura kryptowalutowa staje się ważniejsza, ponieważ agenci będą nieustannie przeprowadzać transakcje. W międzyczasie obrońcy się zbroją. OpenAI dostarczyło model skoncentrowany na cyberbezpieczeństwie w tym miesiącu i przekazało zweryfikowanym badaczom narzędzia do rozwoju exploitów.

Armstrong spodziewa się tego samego wzorca tutaj. Pojawia się szaleństwo medialne, następują wezwania do wstrzymania rozwoju AI, a przemysł łata lukę. Dyrektor generalny Coinbase prowadzi największą giełdę kryptowalut w USA. Jego opinia ma znaczenie dla twórców, którzy już włączają agentów AI do systemów płatności.

Subskrybuj nasz kanał YouTube, aby oglądać liderów i dziennikarzy, którzy dostarczają fachowych spostrzeżeń.

Krytycy twierdzą, że porównanie do robaka Morrisa jest niewystarczające

Worm z 1988 roku zainfekował około 6 000 z około 60 000 podłączonych maszyn w ciągu 24 godzin, mówi FBI. Jego autor, 23-letni student Cornellu Robert Tappan Morris, otrzymał probation i grzywnę.

Szacunkowe straty wyniosły od 100 000 dolarów do milionów. Niektóre uniwersytety odcięły się od sieci na tydzień.

Jednak skutki uboczne również wzmocniły obronę. W ciągu kilku dni Pentagon utworzył pierwszy zespół reagowania na sytuacje kryzysowe w Pittsburghu. Ten wzór wciąż kształtuje odpowiedzi na incydenty dzisiaj.

Badacze bezpieczeństwa wątpią, czy awaria rogue AI zakończy się tak gładko. Worm rozprzestrzenia się na podstawie stałych instrukcji, podczas gdy agent dostosowuje się do wszelkich przeszkód.

Ekspert ds. bezpieczeństwa blockchain Manuel Aráoz ostrzegł w maju, że agenci AI wyprzedzają audytorów w zakresie zdecentralizowanych finansów. W tym miesiącu dyrektor wykonawczy Ledger Ian Rogers zwrócił uwagę na podobny problem dotyczący ataków na portfele kryptowalutowe.

Krytycy porównania wymieniają ostrzejsze ryzyka. Wskazują na autonomiczne cyberataki, dezinformację na skalę przemysłową i utratę kontroli nad krytyczną infrastrukturą.

Różnica między dwoma obozami sprowadza się do szybkości odzyskiwania. Armstrong stawia na to, że poprawki pojawią się szybciej niż rozprzestrzeniają się szkody. Jego sceptycy widzą awarie, których żadna poprawka nie cofa.

Żaden z obozów nie kwestionuje kierunku. Możliwości modeli wciąż rosną, a ich ograniczenia pozostają w tyle.

Historycznie rzecz biorąc, internet absorbował każdy wstrząs. Prawdziwe zdarzenie rogue AI przetestuje, czy ten rekord się utrzyma.

Źródło: BeInCrypto