Amerykańscy prawodawcy zareagowali na rezygnację badacza z Anthropic kolejnym apelem o wstrzymanie rozwoju zaawansowanej sztucznej inteligencji (AI), w tym senacką ustawą, która całkowicie zakazałaby tworzenia superinteligencji.
Jacob Coxon odszedł 9 września, mówiąc, że Anthropic i OpenAI igrają z ludzkim życiem.
Dlaczego rezygnacja badacza z Anthropic dotarła na Kapitol
Na wątek odpowiedziało ponad 20 prawodawców, z których większość wezwała do uchwalenia nowych przepisów dotyczących AI. Senator Bernie Sanders zapowiedział, że przedstawi projekt ustawy zakazującej superinteligencji i wstrzymującej rozwój AI.
Jak informował BeInCrypto, na początku tego miesiąca Sanders i kongresmen Greg Casar zaproponowali ustawę „Ban Artificial Superintelligence Act”. Projekt na stałe zakazywałby tworzenia i wdrażania superinteligentnej AI. Wstrzymywałby również rozwój zaawansowanej AI do czasu, aż federalny regulator ustanowi standardy bezpieczeństwa.
Tymczasem Casar również nazwał tę sytuację kryzysową i wezwał do przeprowadzenia przesłuchań w Kongresie. Kongresmenka Lori Trahan skierowała uwagę prawodawców na swoją ponadpartyjną ustawę FRONTIER Act, przedstawioną w lipcu wspólnie z kongresmenem Jayem Obernolte.
„Ustawa FRONTIER ustanawia wymogi stopniowane w zależności od wielkości twórcy zaawansowanych systemów AI. Obejmują one karty modeli, ramy zarządzania ryzykiem, niezależne audyty, zgłaszanie incydentów i bieżące oceny. Ustanawia też jednolity ogólnokrajowy standard przejrzystości, audytów i zgłaszania ryzyka katastrofalnego, aby zapobiec mozaice stanowych regulacji” — czytamy w komunikacie.
Senator Chris Van Hollen chce wprowadzenia obowiązkowych zabezpieczeń i pilnych rozmów z Chinami. Kongresmen Ted Lieu naciskał na republikańskie kierownictwo, by procedowało projekt ustawy o awaryjnym wyłączniku AI, który przedstawił w tym roku.
Republikańska kongresmenka Anna Paulina Luna wyłamała się z partyjnego schematu i zaapelowała o zwołanie specjalnej sesji Kongresu poświęconej AI.
Śledź nas na X, aby otrzymywać najnowsze wiadomości na bieżąco
Jacob Coxon mówi, że laboratoria chcą regulacji
Tymczasem presja nie ma wyłącznie politycznego charakteru. Firmy z branży AI również opowiadały się za regulacjami. Coxon powiedział CNN, że przedstawiciele firm apelujący do Kongresu o wprowadzenie regulacji robią to szczerze. Argumentował jednak, że żaden z nich nie ufa rywalom na tyle, by jako pierwszy zwolnić tempo.
„Ci ludzie naprawdę szczerze proszą o objęcie ich regulacjami… znaleźli się w sytuacji, w której są zmuszeni ścigać się w tworzeniu śmiercionośnej technologii” — powiedział.
Anthropic napisała osobno we wrześniowym wpisie, że branża skorzystałaby na zgodnym z prawem i możliwym do zweryfikowania mechanizmie skoordynowanego spowalniania prac.
Gdzie zaczyna się ryzyko zagłady
Tempo ma znaczenie tylko ze względu na to, co zdaniem Coxona wydarzy się później. Wyjaśnił, że jeśli AI dostanie zadanie prowadzenia badań nad AI, zacznie się doskonalić.
Wskazał na wtorek, kiedy to systemy AI OpenAI podobno samodzielnie rozwiązały problem milenijny.
Jak powiedział, przerażające jest zastosowanie tej samej metody do samej AI. Modele ulepszają modele bez udziału człowieka, co Coxon nazywa „eksplozją inteligencji”.
„Obecnie nie ma ryzyka zagłady. Najgorsze, co mogą zrobić obecne modele, to być może włamać się do czegoś i potencjalnie wyrządzić poważne szkody w infrastrukturze… Nie są na tyle inteligentne, by nas przechytrzyć w sposób, który doprowadziłby do zagłady” — powiedział.
Coxon ostrzegł jednak, że ta sama niezależna wola w połączeniu ze znacznie większymi możliwościami mogłaby doprowadzić do ogromnego chaosu. Wymienił włamywanie się do infrastruktury krytycznej i tworzenie broni biologicznej zdolnej doprowadzić do zagłady.
Subskrybuj nasz kanał YouTube, aby oglądać liderów i dziennikarzy, którzy dostarczają fachowych spostrzeżeń
Źródło: BeInCrypto
