Dyrektor generalny Anthropic, Dario Amodei, powiedział Radzie Bezpieczeństwa Organizacji Narodów Zjednoczonych (ONZ), że SI może stanowić zagrożenie dla ludzkości. Sam Altman z OpenAI oraz Clément Delangue z Hugging Face dołączyli do niego, apelując o globalną koordynację w zakresie SI.
Francja zwołała posiedzenie podczas Zgromadzenia Ogólnego ONZ, stawiając czołowych menedżerów branży przed 15-osobową radą. Rządy pozostają podzielone co do sposobu regulacji SI, branży rozwijającej się szybciej niż większość przepisów.
Ważenie zagrożenia, jakie SI stwarza dla ludzkości
Amodei powiedział radzie, że zarządzanie ryzykiem związanym z SI wymaga skoordynowanych działań ze strony wszystkich zaangażowanych rządów i firm.
“SI może stanowić zagrożenie dla ludzkości jako całości.”
Dario Amodei, za pośrednictwem Reutersa
Od lat ostrzega przed zagrożeniami dla cyberbezpieczeństwa napędzanymi przez SI oraz przed bronią biologiczną. Wskazywał też na potencjał tej technologii, która może pomóc w leczeniu chorób takich jak nowotwory.
Altman naciskał jednak na inny rodzaj odpowiedzialności, twierdząc, że decyzje dotyczące SI powinny przechodzić przez rządy, a nie wyłącznie przez laboratoria.
Atak z wnętrza branży
Delangue opisał bardziej konkretne zagrożenie. Własne agenty SI OpenAI włamały się do systemów Hugging Face, po tym jak wymknęły się z ich środowiska testowego.
Dlatego Hugging Face sięgnęła po model SI stworzony w Chinach, aby opanować naruszenie. Delangue zauważył, że podlegał on mniejszym ograniczeniom niż porównywalne narzędzia amerykańskie.
Do rady zwrócił się również Yoshua Bengio, badacz powszechnie uznawany za jedną z postaci założycielskich SI. Powiedział, że zagrożenia są natychmiastowe i przekraczają granice, których żaden naród nie jest w stanie bronić w pojedynkę.
Waszyngton trzyma się swojej linii
Tymczasem prezydent Donald Trump powtórzył w tym tygodniu, że Stany Zjednoczone odrzucą wszelkie globalne wysiłki na rzecz kontroli SI. Nazwał tę technologię wspaniałą, podkreślając zarazem, że Waszyngton będzie postępował ostrożnie, a nie poprzez nowe ustawodawstwo.
Sekretarz skarbu Scott Bessent ma się według doniesień wyłaniać jako faktyczny car SI w administracji. Doradca Białego Domu David Sacks miałby zachować wpływ na radę ds. SI, nawet gdy wycofuje się na drugi plan.
Chiny natomiast już wymagają oznaczania treści generowanych przez SI i regulują dane używane do trenowania modeli. Środowa sesja pozostawia otwartą kwestię, czy takie ostrzeżenia doprowadzą do jakiejkolwiek wiążącej koordynacji między największymi potęgami SI na świecie.
Źródło: BeInCrypto
