Rząd USA poddał najnowszy model AI Chin testowi hakerskiemu. Okazało się, że Kimi K3 od Moonshot AI znacznie odstaje od najlepszych amerykańskich modeli.
Centrum Standardów i Innowacji AI (CAISI), agencja USA, przeprowadziło testy z brytyjskim partnerem. Wyniki pojawiły się zaledwie dzień po tym, jak Waszyngton oskarżył Moonshot o zbudowanie Kimi K3 z wykorzystaniem skradzionej technologii USA.
Kimi K3 nie spełnia amerykańskich standardów cybernetycznych
Departament Handlu opublikował wyniki w czwartek. Stwierdził, że Kimi K3 zajmuje miejsce znacznie poniżej najlepszych amerykańskich modeli, powołując się na wspólny test z brytyjskimi ekspertami.
Moonshot uruchomił Kimi K3 16 lipca. Popyt był tak wysoki, że musiał wstrzymać nowe rejestracje w ciągu dwóch dni.
Uruchomienie wstrząsnęło również amerykańskimi akcjami chipowymi i wzbudziło nowe wątpliwości co do przewagi USA w dziedzinie AI.
Jeden z testów, zwany ExploitBench, wykorzystuje rzeczywiste błędy przeglądarki Chrome stworzone przez Uniwersytet Carnegie Mellon. Kimi K3 uzyskał wynik 32%. To więcej niż chiński GLM-5.2, który osiągnął 24%. Ale ustępował najlepszym amerykańskim modelom, które osiągnęły około 76%.
Najtrudniejszym krokiem jest przejęcie pełnej kontroli nad docelową maszyną. Kimi K3 nie zdał tego kroku we wszystkich 41 testach. Najlepsze amerykańskie modele poradziły sobie z tym w 20.
Inny test, zwany The Last Ones, to atak na fikcyjną sieć firmy z 32 krokami. Ludzki ekspert potrzebuje około 20 godzin, aby go ukończyć. Kimi K3 osiągnął średnio krok 17. Najlepsze amerykańskie modele osiągnęły krok 28,5. Kimi K3 ukończył całość tylko raz w 10 próbach.
Najlepsze amerykańskie systemy podobno zrobiły to sześć lub siedem razy.
Ale luka może wyglądać na większą, niż jest
Jednak liczby nie mówią całej prawdy. Drobny druk w raporcie zawiera kilka pułapek.
Po pierwsze, amerykańskie modele były testowane z wyłączonymi filtrami bezpieczeństwa. To ustawienie pokazuje ich pełną moc. Publiczne wersje mają te filtry włączone. Dlatego wyniki USA to najlepszy przypadek, a nie rzeczywistość.
Zespół również ocenił pracę jako wczesną i ograniczoną. Oceniono Kimi K3 tylko w jednym teście i przeprowadzono tylko część pełnego zestawu. Dlatego jego ocena jest chwiejna. Niektóre testy są również prywatne, więc osoby z zewnątrz nie mogą sprawdzić tej pracy.
Istnieje również podstawowe niedopasowanie. Kimi K3 to model otwarty, który każdy może pobrać. Amerykańskie modele to zamknięte, prywatne systemy. Brytyjski instytut stwierdził, że modele otwarte zazwyczaj działają od czterech do siedmiu miesięcy za najlepszymi zamkniętymi. Pełny test Kimi K3 zostanie przeprowadzony dopiero po tym, jak Moonshot udostępni go publicznie.
Te testy to również nie są prawdziwe ataki. Fałszywa sieć nie miała ludzkich obrońców ani alarmów do uruchomienia. Mimo to, Kimi K3 pokonał ostatni najlepszy otwarty model. I udało mu się zakończyć pełny atak raz.
Czas i źródło również budzą wątpliwości. CAISI kiedyś było amerykańskim Instytutem Bezpieczeństwa AI. Administracja Trumpa zmieniła jego nazwę w czerwcu 2025 roku. Znajduje się w tym samym departamencie, który ogranicza sprzedaż chipów USA do Chin. A jego raport na temat chińskiego rywala pojawił się zaledwie dzień po zgłoszeniu kradzieży.
Słabe zabezpieczenia wciąż podnoszą stawkę
Mimo to, niskie wyniki nie oznaczają, że Kimi K3 jest bezpieczny. Test wykazał, że jego bariery nie zablokowały go przed próbami budowania haków lub atakowania systemów.
To ma znaczenie z powodu tego, co nastąpi później. Moonshot planuje wydanie pełnego modelu 27 lipca. Gdy już zostanie wydany, nie można go cofnąć. Każdy może go pobrać i usunąć filtry bezpieczeństwa.
Test ten następuje również po zgłoszeniu kradzieży. Waszyngton twierdzi, że Moonshot zbudował Kimi K3 na skradzionej amerykańskiej technologii AI. Szef technologii Białego Domu, Michael Kratsios, powiedział, że firma potajemnie skopiowała Claude Fable 5 firmy Anthropic. Sztuczka, zwana destylacją, uczy nowy model na podstawie odpowiedzi silniejszego modelu.
Anthropic popiera to twierdzenie. W lutym prześledził ponad 3,4 miliona czatów Claude'a do Moonshot przez setki fałszywych kont. Ostrzegł, że skopiowane modele tracą kontrole bezpieczeństwa oryginału. To ta sama słabość, którą właśnie odkrył ten test.
USA wciąż wydaje 23 razy więcej na AI niż Chiny. Jednak chińskie laboratoria wciąż zmniejszają tę różnicę. Prawdziwy test nastąpi, gdy Kimi K3 wejdzie na rynek, a zewnętrzni eksperci będą mogli sami sprawdzić te twierdzenia.
Źródło: BeInCrypto
