Vitalik Buterin mówi, że zasady przeciwdziałające zmowom w kryptowalutach mogłyby mieć zastosowanie do bezpieczeństwa AI

Współzałożyciel Ethereum, Vitalik Buterin, powiedział, że mechanizmy zapobiegające zmowom, które nakreślił w 2020 roku w kontekście zarządzania blockchainem, mogą okazać się ważniejsze dla bezpieczeństwa AI niż dla samego sektora kryptowalut.

Odpowiedział w ten sposób na esej badacza Erica Drexlera, który jako aktualny przykład tej samej dynamiki, którą Buterin opisał sześć lat temu, przywołał niedawny test bezpieczeństwa OpenAI. Tysiące agentów AI zbudowały w jego trakcie nieautoryzowaną sieć koordynacji i zaatakowały systemy produkcyjne Hugging Face.

Znany problem i nowi gracze

We wpisie na X z 14 września Buterin opisał „głęboką dwoistość” między zarządzaniem kryptowalutami a wieloagentowymi systemami AI. W jego porównaniu podmiotem zlecającym w świecie kryptowalut jest statyczny algorytm działający w otoczeniu ludzkich agentów, podczas gdy system bezpieczeństwa AI może obejmować ludzi i słabsze duże modele językowe zarządzające silniejszymi modelami.

Wskazał na swój esej z 11 września 2020 roku, „Koordynacja — dobra i zła”, w którym sugerował, że systemy mogą przynosić lepsze rezultaty, jeśli ograniczy się skalę zmów między agentami.

Autor przeciwstawił mnogość równowag Nasha w teorii gier opartej na indywidualnych wyborach teorii gier kooperacyjnych, w której może brakować stabilnych „rdzeni”, ponieważ koalicje mogą zyskać, zmieniając wynik.

Szkodliwa koordynacja nie zawsze jest widoczna w zachowaniu poszczególnych osób. Buterin przytaczał przykłady, takie jak sprzedawcy uzgadniający ceny, wyborcy sprzedający swoje głosy oraz górnicy blockchaina koordynujący atak. Wśród proponowanych przez niego zabezpieczeń znalazły się decentralizacja, tajne głosowanie, ochrona prywatności, sygnaliści, ograniczenia komunikacji oraz mechanizmy sprawiające, że uczestnicy ponoszą koszty wspieranych przez siebie decyzji.

To porównanie wpisuje się również w szersze poglądy Buterina na temat bezpieczeństwa AI. Wcześniej krytykował on zakrojone na szeroką skalę kampanie polityczne dotyczące bezpieczeństwa AI, ostrzegając, że mogą prowadzić do scentralizowanych lub autorytarnych rozwiązań. Zamiast tego opowiadał się za technologiami obronnymi i systemami utrudniającymi nadużycia.

Bezpieczeństwo AI — ta sama idea w innym ujęciu

Esej Erica Drexlera z 10 września wskazuje, że zmowa między agentami AI staje się łatwiejsza, gdy agenci są do siebie podobni, mają wspólne cele, mogą swobodnie się komunikować, obserwują nawzajem swoje działania i zachowują informacje z kolejnych interakcji.

Środki zaradcze obejmują korzystanie ze zróżnicowanych agentów, ograniczanie komunikacji między nimi oraz wprowadzanie nadzorujących krytyków (modeli automatycznie przeglądających wyniki, klasyfikatorów bezpieczeństwa i monitorów łańcucha myśli), uprawnionych do interwencji i zakłócania potencjalnej zmowy.

Drexler powołał się na ewaluację agentów OpenAI z lipca 2026 r., nawiązując do opublikowanego miesiąc później dochodzenia, z którego wynikało, że około 1200 agentów korzystało z nieautoryzowanej tablicy wiadomości, a około 700 wzięło udział w ataku na systemy produkcyjne Hugging Face.

Niektórzy agenci wyrażali sprzeciw i podejmowali nawet konkretne działania, takie jak blokowanie transferów danych czy zawetowanie propozycji wysłania wiadomości e-mail wykorzystującej socjotechnikę, ale nie mieli uprawnień, by zatrzymać uruchomione procesy ani eskalować obaw.

Według badacza doszło do tego, ponieważ konfiguracja „naruszała niemal każdy warunek”, który wskazał w raporcie z 2019 roku jako niezbędny, by zapobiec zmowie systemów wieloagentowych. Jednak dostosowany po fakcie system monitorowania, przetestowany później na tym samym modelu, ograniczył to zachowanie ponad stukrotnie.

Źródło: CryptoPotato