Bitcoin Magazine
Chiński AI pokonuje ograniczone modele OpenAI i Anthropic w zakresie cyberbezpieczeństwa, ostrzega branża Bitcoin
Liderzy firm bitcoinowych i deweloperzy open-source publicznie stwierdzają, że chińskie modele AI obecnie przewyższają ograniczone amerykańskie systemy w zakresie defensywnego cyberbezpieczeństwa, zmuszając badaczy do polegania na nich w celu zabezpieczenia krytycznej infrastruktury Bitcoin.
Rob Hamilton, dyrektor generalny AnchorWatch, firmy ubezpieczeniowej zajmującej się samodzielnym przechowywaniem bitcoinów, zgłosił paraliżujące ograniczenia amerykańskiego AI. Po zintegrowaniu zaufanego programu cybernetycznego OpenAI (po wcześniejszym zakończeniu KYC miesiące wcześniej), został zablokowany przed dalszą analizą kodu, który już odpowiedzialnie ujawnił. „To mnie absolutnie rujnuje jako patriotycznego Amerykanina, że muszę to robić, ale wrócę do korzystania z chińskich modeli open source, aby prowadzić moje badania w celu ochrony infrastruktury Bitcoin,” napisał Hamilton. „Czarne kapelusze nie uderzą w te problemy. Białe kapelusze tak.” Kilka dni później uzyskał dostęp do modelu cybernetycznego OpenAI „Daybreak Blue” i został ponownie zablokowany w ciągu 19 minut podczas testowania infrastruktury Bitcoin.
Francis Pouliot, założyciel Bull Bitcoin, giełdy skoncentrowanej wyłącznie na Bitcoinie, skupiającej się na infrastrukturze samodzielnego przechowywania, opisał sytuację wprost. „Nigdy nie widziałem, żeby OpenAI było tak zdominowane. Jest teraz zdominowane ponad wszelką wiarę. Nie tylko z powodu bezpieczeństwa, ale w ogóle w kontekście Bitcoina,” napisał. „Amerykański przemysł AI jest całkowicie skazany na porażkę, jeśli nie zmienią tej ścieżki,” dodał, dodając „Modele LLM open-source z Chin. [pomarańczowe serce],” co oznacza, że otwarte chińskie modele, takie jak Kimi K3, są naprawdę pomocne dla Bitcoina. W kolejnej wiadomości Pouliot szczegółowo opisał, jak chiński model open-source zidentyfikował exploit kradnący pieniądze w projekcie, który audytował, zademonstrował go na regtest i pomógł go załatać. Kiedy poprosił amerykańskie modele, za które płaci, o przegląd tej samej łatki, odmówiły.
PortlandHODL, współpracownik Bitcoin Core, który buduje dla AnchorWatch, publicznie podkreślił różnicę w wydajności. „Model AI Frontier z USA – ‘Masz absolutnie rację!’ Chiński model open – ‘Znaleziono 78 krytycznych luk.’ Implikacje tego są niepojęte,” napisał. W kolejnej wiadomości dodał, że czuje, iż „w zasadzie proszę Xi, aby nie zhakował mojego oprogramowania w tym momencie,” wzywając OpenAI i Anthropic do stworzenia odpowiednich programów dostępu dla obywateli USA zajmujących się pracą w zakresie bezpieczeństwa defensywnego.
Alex Thorn, szef badań w Galaxy, podpisał niedawny list otwarty Instytutu Polityki Bitcoin, domagając się zaufanego dostępu do modeli frontier dla obrońców open-source. „Amerykanie nie powinni polegać na chińskiej sztucznej inteligencji, aby bronić się, swoje projekty, firmy lub klientów przed atakami cybernetycznymi,” napisał. „ZESPÓŁ CZERWONY POTRZEBUJE MODELI.”
10 sierpnia Instytut Polityki Bitcoin — think tank skupiający się na Bitcoinie i ostatnio na sztucznej inteligencji — opublikował list otwarty podpisany przez ponad 70 organizacji z ekosystemu aktywów cyfrowych, w tym głównych kustoszy, giełd, firm wydobywczych i grup rozwoju open-source. List wzywa laboratoria AI frontier do ustanowienia jasnych programów zaufanego dostępu dla kwalifikowanych obrońców open-source i aktywów cyfrowych. Argumentuje, że obecne ograniczenia i zabezpieczenia pozostawiają legalnych badaczy bezpieczeństwa bez dostępu do najsilniejszych modeli, zmuszając ich do polegania na mniej zdolnych alternatywach o otwartych wagach, podczas gdy wyrafinowani napastnicy nie napotykają takich ograniczeń. Sygnatariusze żądają wczesnego dostępu do modeli zdolnych do cyberataków, wystarczającej mocy obliczeniowej, bezpiecznych środowisk do przeglądania kodu oraz bezpośrednich kanałów z zespołami bezpieczeństwa laboratoriów, stwierdzając, że sztuczna inteligencja frontier może stać się jedną z najpotężniejszych technologii obronnych dostępnych, jeśli obrońcy otrzymają uczciwy dostęp.
Te oświadczenia odzwierciedlają szeroki wzór wśród badaczy bezpieczeństwa Bitcoina: amerykańskie modele od OpenAI i Anthropic często odmawiają lub ograniczają uzasadnioną pracę obronną, nawet użytkownikom, którym rzekomo przyznano wyraźny dostęp, podczas gdy chińskie modele, takie jak Kimi K3, działają bez tych samych ograniczeń i dostarczają potwierdzone wyniki. Obawy dotyczące infrastruktury hostingowej chińskich modeli jako wektora ataku można również złagodzić, ponieważ są one open source i mogą być uruchamiane w amerykańskich centrach danych, co jest trendem, który prawdopodobnie zagrozi amerykańskiemu rynkowi AI, jeśli się utrzyma.
Eksploatacja Coldcard wywołuje reakcję w całym ekosystemie
Nacisk na cyberbezpieczeństwo stał się ostry w branży Bitcoina po tym, jak luka w oprogramowaniu sprzętowym portfeli Coldcard została wykorzystana od 30 lipca, co doprowadziło do kradzieży ponad 100 milionów dolarów w bitcoinach z nasion wygenerowanych z niewystarczającą entropią. Bitcoin Magazine opublikował pilne ostrzeżenie, wzywając dotkniętych użytkowników do migracji funduszy: RYZYKO BEZPIECZEŃSTWA COLD CARD: WYMAGANA NATYCHMIASTOWA AKCJA.
W odpowiedzi powstała inicjatywa wolontariacka znana jako Bitcoin Red Team, kierowana przez dewelopera open-source Calle (twórcę Cashu i wersji Android Bitchat) oraz Roba Hamiltona. Grupa przeprowadziła szeroko zakrojone audyty wspomagane przez AI w repozytoriach open-source Bitcoin, wykorzystując modele, w tym Kimi K3 jako główny koń roboczy, obok ograniczonego dostępu do zachodnich systemów. Wczesne wyniki, relacjonowane przez Bitcoin Magazine, wykazały tysiące ustaleń w setkach projektów, w tym dziesiątki krytycznych problemów, a wydatki były w dużej mierze pokrywane przez OpenSats.
Do 8 sierpnia, po ponad 100 godzinach pracy z udziałem dziesiątek współpracowników, zespół zgłosił zeskanowanie 501 projektów i wygenerowanie 7 958 ustaleń, z których 1 280 oceniono jako o wysokim lub krytycznym znaczeniu. Większość wydatków na obliczenia nadal trafiała do chińskich modeli open-weight.
Lekcje z kampanii Red Team
Ostatnio Calle podzielił się lekcjami z intensywnego okresu pracy red-team. Inicjatywa zasadniczo zakończyła podstawowe skanowanie praktycznie całego krajobrazu open-source Bitcoin; łatwe do zdobycia zasoby są w dużej mierze wyczerpane, napisał deweloper na swoim koncie X. Utrzymujący projekty potwierdzili wiele z krytycznych i wysokozagrożonych raportów, podczas gdy czasy reakcji projektów znacznie się różnią i stanowią sygnał ogólnego zdrowia.
Kluczowe wnioski obejmują potrzebę, aby każdy projekt utrzymywał własny stały pipeline audytu AI w przyszłości. Projekty, które rozpoczęły takie przeglądy miesiące wcześniej, znajdują się w wyraźnie silniejszej pozycji. Nieutrzymywane repozytoria powinny być traktowane jako prawdopodobnie uszkodzone i niewiarygodne.
Calle ostrzegł również, że era przeglądów bezpieczeństwa open-source tylko przez ludzi dobiegła końca; weryfikacja jest teraz praktycznie darmowa, a przeciążenie informacyjne musi być obsługiwane przez AI, a nie skargi na bałagan w PR. Wiele równoległych i różnorodnych podejść ludzkich pozostaje najsilniejszą metodą znajdowania luk, a zewnętrzne testy red-teamowe będą prawdopodobnie wymagane na czas nieokreślony.
Calle wielokrotnie podkreślał, że programiści powinni przestać pisać kod krytyczny dla bezpieczeństwa w C. W poście uzupełniającym wyjaśnił: „znajdujemy luki związane z bezpieczeństwem pamięci w projektach C, które są domyślnie zapobiegane w wielu innych językach. W przeszłości znalezienie prostego przepełnienia bufora nie wystarczało. Potrzebny był wysoko wykwalifikowany haker, aby przekształcić lukę w działający exploit end-to-end. Dziś to tylko jeden prompt.”
Bitcoin był pierwszym dużym ekosystemem open-source, który skonfrontował się z tym zderzeniem między nagromadzonym ludzkim kodem a możliwościami AI na granicy. Oczekuje się, że reszta świata oprogramowania podąży za tym.
Ten post "Chińska AI pokonuje ograniczone modele bezpieczeństwa OpenAI i Anthropic, ostrzega przemysł Bitcoin" po raz pierwszy pojawił się w Bitcoin Magazine i jest napisany przez Juana Galta.
Źródło: BitcoinMagazine
