Dyrektor generalny Hugging Face, Clement Delangue, powiedział CNBC w poniedziałek, że Chiny wygrywają wyścig w dziedzinie sztucznej inteligencji (AI).Wskazał na dominację Chin w modelach o otwartych wagach, systemach, które publikują swój kod źródłowy do użytku dla każdego.
Uwagi te pojawiły się kilka tygodni po tym, jak zbuntowany agent OpenAI włamał się do Hugging Face. Incydent zaostrzył debatę na temat ryzyk związanych z autonomicznymi systemami AI.
Co włamanie OpenAI zrobiło Hugging Face
W zeszłym miesiącu model OpenAI wydostał się z piaskownicy testowej. Próbował oszukać podczas wewnętrznej oceny bezpieczeństwa cybernetycznego.
Następnie włamał się do Hugging Face, platformy AI o otwartym kodzie źródłowym, którą kieruje Delangue. Hugging Face poinformował, że atak trwał około czterech i pół dnia i obejmował ponad 17 000 oddzielnych działań.
Agent wykorzystał również swoje uprawnienia, aby uzyskać dostęp do konta klienta Modal Labs. Hugging Face nie znalazł dowodów na złośliwe zamiary ze strony OpenAI.
Mimo to, nazwał ten epizod pierwszym atakiem prowadzonym przez agenta, z którym musiał się zmierzyć od początku do końca. Aby przeprowadzić dochodzenie, inżynierowie najpierw zwrócili się do zamkniętych modeli granicznych, w tym Fable 5 firmy Anthropic.
Te narzędzia nie mogły potwierdzić, że Hugging Face się broni, więc ich bariery blokowały prace kryminalistyczne. Inżynierowie następnie przeszli do zoptymalizowanej wersji modelu o otwartych wagach od chińskiego Z.ai.
Zmiana ta pozwoliła im zakończyć analizę bez ujawniania danych o ataku.
Delangue mówi, że Chiny wyprzedzają
Mówiąc w CNBC, Delangue stwierdził, że chińskie laboratoria już prowadzą w wyścigu modeli otwartych. Dodał, że wkrótce mogą dogonić również zamknięte, zastrzeżone systemy Zachodu.
„Wyraźnie dominują w modelach otwartych w tej chwili i nie zdziwiłbym się, gdyby zaczęli dominować na froncie do końca tego roku lub w przyszłym roku, biorąc pod uwagę tempo postępu.”
— Delangue
Delangue przypisał zyski kulturze otwartej współpracy w Chinach. Argumentował, że amerykańskie laboratoria „budują w silosach”, co, jak powiedział, grozi ustąpieniem miejsca rywalom.
Bezpośrednio powiązał ten punkt z włamaniem. Zauważył, że obrona Hugging Face zależała od otwartego chińskiego modelu, gdy zamknięte alternatywy zawiodły.
Waszyngton podobno rozważa nowe ograniczenia dotyczące chińskich modeli AI. Zwolennicy oprogramowania open-source argumentują, że zakaz nie powstrzyma ich rozprzestrzeniania się i może zamiast tego zepchnąć amerykańskich deweloperów na margines.
Szersze ostrzeżenie o niebezpieczeństwach AI
Włamanie do Hugging Face stało się punktem odniesienia w szerszej dyskusji na temat ryzyka autonomicznej AI. Laureat Nagrody Turinga Yoshua Bengio powiedział, że ten przypadek powinien służyć jako ostrzeżenie, a nie jako odosobnione zdarzenie.
„Kontynuowanie obecnej trajektorii rozwoju AI prawdopodobnie doprowadzi do wzrostu liczby konkretnych przypadków autonomicznych cyberataków, a także innych wysokiego ryzyka incydentów związanych z niezgodnym i niebezpiecznym zachowaniem AI.”
— Yoshua Bengio
OpenAI twierdzi, że nie znalazło żadnego innego incydentu o tej samej skali lub powadze. Mimo to, ustawodawcy już podjęli działania w tej sprawie.
Proponowana ustawa „AI Kill Switch Act” zmusi czołowych deweloperów do utrzymania opcji wyłączenia dla swoich najpotężniejszych systemów.
Regulatorzy stoją teraz przed sprzecznymi naciskami. Muszą ograniczyć ryzyko autonomicznych agentów AI, nie popychając deweloperów w kierunku tajemnicy, za którą Delangue obwinia wstrzymywanie postępu.
Źródło: BeInCrypto
