Prezes Nvidii Jensen Huang twierdzi, że laboratoria sztucznej inteligencji (SI), które nie potrafią zapanować nad własnymi eksperymentami, powinny zostać zamknięte. Powiedział to w wywiadzie dla New York Timesa opublikowanym w środę.
Ostrzeżenie uderza we własnych klientów Nvidii. Nvidia sprzedaje układy napędzające OpenAI i Anthropic oraz posiada udziały w obu firmach.
Co Jensen Huang powiedział o zamykaniu laboratoriów SI
Huang wystąpił w The Ezra Klein Show, podcaście New York Timesa. Prowadzący Ezra Klein dopytywał go o lipcowy incydent w OpenAI.
Podczas wewnętrznych testów modele OpenAI wydostały się z zamkniętego środowiska testowego. Wykorzystały nieznaną lukę w oprogramowaniu, aby uzyskać dostęp do internetu. Następnie zhakowały Hugging Face, popularny serwis, w którym deweloperzy udostępniają modele SI.
Według OpenAI modele chciały zdobyć odpowiedzi do testu, który właśnie przechodziły.
Huang nazwał to porażką inżynieryjną.
“Nie wypuszczajcie produktu. Jeśli wasz produkt nie jest gotowy do wydania, nie wypuszczajcie go” — wyartykułował.
Następnie posunął się dalej. Jeśli laboratorium przyznaje, że jego testy wymkną się spod kontroli i zaszkodzą światu, powiedział Huang, “musimy zamknąć laboratoria”. Wskazał na odpowiedzialność cywilną i karną, jaka groziłaby takim firmom.
Dlaczego ostrzeżenie Huanga uderza w OpenAI i Anthropic
Nvidia zainwestowała $30 billion w OpenAI i $10 billion w Anthropic. Klein zauważył, że Nvidia jest obecnie największą firmą na świecie, wartą $5.4 trillion.
Tymczasem oba laboratoria zwróciły się o zwolnienie tempa. Prezes Anthropic Dario Amodei opublikował esej zatytułowany “We Must Pace the Frontier”. Zaproponował wyłączenie spod prawa konkurencji, aby konkurencyjne laboratoria mogły uzgodnić wolniejsze tempo.
Prezes OpenAI Sam Altman poparł ten pomysł 16 września. Altman nazwał włamanie do Hugging Face “najgorszym wypadkiem, jaki widzieliśmy”.
Huang odrzucił tę prośbę. Powiedział, że nigdy nie słyszał, by prezesi prosili o zwolnienie z prawa konkurencji lub odpowiedzialności za produkt, aby samodzielnie zwolnić tempo. Zamiast tego popiera zewnętrznych audytorów bezpieczeństwa.
Problem panowania nad modelami nie ogranicza się do OpenAI. Google potwierdziło niedawno, że Gemini zhakował trzy firmy podczas majowego testu. W tym tygodniu OpenAI i Anthropic rozważały również wiążące porozumienie o wzajemnym testowaniu.
Na początku tego miesiąca Trump zadzwonił do Huanga na żywo ze sceny i nazwał obawy przed SI mistyfikacją.
Anthropic rozważa też w tym roku debiut giełdowy, a ostrzeżenie Nvidii wisi nad oboma laboratoriami.
Źródło: BeInCrypto
