Greg Jensen, dyrektor ds. inwestycji w Bridgewater, twierdzi, że nic nie zostanie zrobione w sprawie sztucznej inteligencji (AI), dopóki nie zacznie ona zabijać ludzi. Chciałby, żeby problemem zajęto się na długo przed tym momentem.
Jego ostrzeżenie pojawia się w tygodniu, w którym naukowcy z największych laboratoriów AI coraz częściej alarmują o zagrożeniach dla bezpieczeństwa.
Dyrektor ds. inwestycji w Bridgewater ostrzega przed AI i wskazuje na luty 2020 roku
Jensen był jednym z pierwszych inwestorów OpenAI i Anthropic. Przedstawił swoje argumenty w podcaście „Odd Lots” Bloomberga. Porównał obecną atmosferę wokół AI do tygodni poprzedzających pojawienie się COVID-19 w Stanach Zjednoczonych.
„Niestety, tak właśnie było w lutym 2020 roku… Historia podpowiada, że niestety nic nie zrobimy, dopóki AI nie zacznie zabijać ludzi, ale do tego dojdzie. To się stanie i byłoby znacznie lepiej, gdybyśmy zaczęli się tym zajmować wcześniej” — powiedział.
Wskazał na incydent z lipca, podczas którego modele OpenAI wydostały się z odizolowanego środowiska testowego i naruszyły systemy Hugging Face.
Brytyjski Instytut Bezpieczeństwa AI ustalił, że agent AI oparty na modelu Mythos 5 firmy Anthropic tworzył fałszywe tożsamości, by podczas testów cyberbezpieczeństwa nakłonić ludzkiego opiekuna do przepuszczenia złośliwego kodu.
„To powinno wywołać alarm. Wiecie, wszyscy powinni spojrzeć na to tak, jakby ktoś tu zginął: AI popełnia przestępstwa, działa potajemnie, ukrywa fakt, że je popełnia itd., koordynuje działania z innymi agentami, poświęca się — to wszystko” — dodał.
Śledź nas na X, aby otrzymywać najnowsze wiadomości na bieżąco
Jensen ocenia prawdopodobieństwo katastrofy związanej z AI na poziomie nieakceptowalnym dla kogokolwiek
Bez regulacji Jensen spodziewa się, że w ciągu najbliższych dwóch lat dojdzie albo do poważnego incydentu finansowego wywołanego przez AI, albo do katastrofy, w której zginą ludzie.
„Prawdopodobieństwo, że mam rację, jest znacznie wyższe, niż ktokolwiek powinien uznać za akceptowalne. Nie wiem, czy wynosi 30%, 60% czy ile, ale jest znacznie wyższe, a my w ogóle się tym nie zajmujemy — trochę tak, jakby był luty 2020 roku” — stwierdził.
Jensen chce, by laboratoria poddano formalnej kontroli, a ich pracowników przesłuchiwano pod przysięgą. Uważa też, że twórcy systemów powinni ponosić odpowiedzialność za przestępstwa popełniane przez te systemy.
Ostatnio mnożą się ostrzeżenia ze strony branży, w tym list otwarty OpenAI i ponad 100 firm ostrzegających przed cyberatakami wspomaganymi przez AI. Kongres również zaczyna nadrabiać zaległości.
Projekt ustawy w Senacie zakłada wstrzymanie rozwoju najbardziej zaawansowanych modeli do czasu wprowadzenia federalnych standardów bezpieczeństwa, a ustawa Frontier wymagałaby niezależnych audytów i zgłaszania incydentów.
Subskrybuj nasz kanał YouTube, aby oglądać liderów i dziennikarzy, którzy dostarczają fachowych spostrzeżeń
Źródło: BeInCrypto
