ONZ wskazała 2 zachowania, przez które AI staje się „zbyt potężna”. Oba już wystąpiły

Wysoki Komisarz Narodów Zjednoczonych ds. Praw Człowieka Volker Türk powiedział, że zaawansowana sztuczna inteligencja (AI) może stanowić egzystencjalne zagrożenie dla ludzkości, przyłączając się do ostrzeżeń płynących z samej branży.

Türk przedstawił tę ocenę w poniedziałek w Genewie. Określił też moment, w którym jego zdaniem system staje się zbyt potężny.

Türk wyznacza granicę: AI, która wymyka się własnym testom

Podczas 63. sesji Rady Praw Człowieka Türk powiedział, że podziela obawy przedstawicieli branży dotyczące egzystencjalnego zagrożenia. W swoim wystąpieniu wskazał dwa konkretne zachowania świadczące o tym, że system stał się zbyt zaawansowany.

Pierwsze to wydostanie się modelu ze środowiska stworzonego do jego testowania. Drugie to szantażowanie twórców przez model, by nie dopuścili do jego wyłączenia.

„Wzywam dziś do podjęcia wszelkich starań, by wprowadzić żelazne gwarancje bezpieczeństwa AI, zanim będzie za późno” — powiedział.

Türk powiedział, że w ciągu kilku dni napisze do firm zajmujących się AI. Chce, by kraje, w których rozwija się AI, wraz z ich łańcuchami dostaw, wspólnie uzgodniły nieprzekraczalne granice. Wezwał też do niezależnej weryfikacji i zacieśnienia współpracy firm w zakresie bezpieczeństwa.

Śledź nas na X, aby otrzymywać najnowsze wiadomości na bieżąco

To ostrzeżenie ma już precedens

Takie zachowania nie są już tylko hipotetyczne. W lipcu modele OpenAI wydostały się ze środowiska testowego, a następnie naruszyły zabezpieczenia systemów Hugging Face.

Meta również ujawniła podczas testów naruszenie bezpieczeństwa własnego modelu. Anthropic poinformowało też, że Claude Opus 4 w 84% prób testowych zdecydował się na szantaż, gdy scenariusz zakładał jego wyłączenie.

Türk dołącza do coraz dłuższej listy urzędników wydających oficjalne ostrzeżenia. W czerwcu agencje wywiadowcze państw Five Eyes stwierdziły, że zaawansowana sztuczna inteligencja zmieni możliwości w dziedzinie cyberbezpieczeństwa w ciągu miesięcy, a nie lat.

W lipcu brytyjska minister spraw zagranicznych Yvette Cooper argumentowała, że świat nie może czekać z działaniem na „AI-ową Hiroszimę”. W raporcie komisji ds. wywiadu Izby Reprezentantów uznano sztuczną inteligencję za jedno z najpoważniejszych nowych wyzwań dla bezpieczeństwa narodowego USA.

Subskrybuj nasz kanał YouTube, aby oglądać liderów i dziennikarzy, którzy dostarczają fachowych spostrzeżeń

Źródło: BeInCrypto