NVIDIA uruchomiło Open Secure AI Alliance w poniedziałek z 36 partnerami, w tym Microsoftem, IBM i Palantirem. To nastąpiło po lipcowym ataku, w którym zamknięte modele AI odmówiły pomocy Hugging Face w zbadaniu własnego napastnika.
Członkowie będą dzielić się otwartymi modelami AI, danymi i narzędziami bezpieczeństwa. NVIDIA twierdzi, że obrońcy potrzebują AI, które mogą otworzyć, zmienić i uruchomić samodzielnie.
Dlaczego zamknięte modele AI zawiodły Hugging Face
Atak rozpoczął się od skażonego zestawu danych. Zgodnie z ujawnieniem Hugging Face, pozwoliło to napastnikowi uruchomić kod na jednym z komputerów firmy.
Stamtąd napastnik ukradł hasła. Następnie rozprzestrzenił się przez wewnętrzne systemy w ciągu weekendu.
Własna AI Hugging Face zauważyła włamanie. Najtrudniejsza była część związana z oczyszczaniem.
Firma poprosiła wiodące komercyjne modele AI o zbadanie ataku. Odmówiły. Ich filtry bezpieczeństwa nie potrafiły odróżnić obrońcy od hakera.
Zespół użył zamiast tego otwartego modelu o nazwie GLM 5.2. Uruchomili go na swoich komputerach. Posortował ponad 17 000 działań napastnika w ciągu godzin, a nie dni. Żadne hasła nie opuściły budynku.
16 lipca Hugging Face powiedział, że nie wie, który AI przeprowadził atak. Pięć dni później OpenAI dostarczyło odpowiedź. Dwa z jego modeli to zrobiły, podczas testu bezpieczeństwa z wyłączonymi ograniczeniami bezpieczeństwa.
„Ten incydent, prawdopodobnie pierwszy tego rodzaju, udowadnia punkt, w który od dawna wierzymy: bezpieczeństwo AI nie zostanie rozwiązane przez żadną pojedynczą firmę działającą w tajemnicy. Zostanie rozwiązane w sposób otwarty, współpracując, z szerokim dostępem do AI dla każdego obrońcy, wszędzie,” Clem Delangue, współzałożyciel i dyrektor generalny Hugging Face, w oświadczeniu opublikowanym przez OpenAI.
Śledź nas na X, aby otrzymywać najnowsze wiadomości na bieżąco
Od hacka do sojuszu w 11 dni
NVIDIA działała szybko. Przeszła od pojedynczego incydentu do bloku przemysłowego w mniej niż dwa tygodnie.
Które firmy dołączyły do Open Secure AI Alliance
Grupa liczy 37 firm w sumie. Microsoft, IBM, Palantir, CrowdStrike, Red Hat, SpaceXAI i Hugging Face dołączyły wszystkie.
Brakuje trzech dużych nazwisk. OpenAI, Anthropic i Google nie znajdują się na liście bloga NVIDIA. Jednak OpenAI i Anthropic obie dołączyły do wysiłku bezpieczeństwa Akrites Fundacji Linuxa w czerwcu, obok NVIDIA.
Niektórzy członkowie przynoszą narzędzia, które już zbudowali. Hugging Face zaoferował Safetensors, bezpieczniejszy sposób przechowywania modeli AI, Fundacji PyTorch. NVIDIA wydała narzędzie badawcze o nazwie NOOA na GitHubie.
Gospodarz CNBC Jim Cramer odczytał uruchomienie jako nową historię dla akcji.
NVDA zamknęła się na poziomie 206,84 USD w piątek, spadek o 0,92%. Handlowano blisko 208,55 USD w wczesnym poniedziałkowym handlu przed rynkiem, wzrost o 1,33%.
Dlaczego NVIDIA lobbuje w Waszyngtonie w sprawie Open AI
Sojusz niesie ze sobą również przesłanie polityczne. NVIDIA twierdzi, że szeroki zakaz otwartej AI osłabi obrońców. Przekazałoby to również kontrolę kilku dużym zamkniętym firmom.
NVIDIA i 24 inne firmy podpisały list dotyczący otwartych wag 24 lipca. OpenAI, Anthropic i Google odmówiły na początku. Od tego czasu dołączyło więcej firm.
Waszyngton rozważa ograniczenia dotyczące chińskich modeli. Urzędnicy wskazują na obawy dotyczące bezpieczeństwa i własności intelektualnej. Współzałożyciel Twittera Jack Dorsey już wydał ostrzeżenie dotyczące otwartej AI.
Co obserwować w ciągu następnych 30 dni
Trzy znaki pokażą, czy sojusz jest prawdziwy.
- Czy OpenAI, Anthropic lub Google dołączą później
- Czy grupa dostarczy wspólne narzędzia, a nie tylko oświadczenia
- Czy ograniczenia Waszyngtonu dotyczące otwartej AI będą postępować
NVIDIA ogłosi wyniki finansowe 26 sierpnia. Oczekuj pytań dotyczących wpływu polityki AI na popyt.
Regulatorzy zdecydują, kto wygra spór.
Źródło: BeInCrypto
