Vitalik Buterin ma inne spojrzenie na hakerów AI i przyszłość cyberbezpieczeństwa

Vitalik Buterin nie uważa, że rosnące obawy, iż hakerstwo wspomagane przez AI może coraz bardziej utrudniać cyberbezpieczeństwo, są uzasadnione. W niedawnym wpisie współzałożyciel Ethereum powiedział, że nie zgadza się z poglądem, iż hakerstwo z wykorzystaniem AI oznacza, że „cyberbezpieczeństwo jest skazane na porażkę”.

Stwierdził natomiast, że bezpieczeństwo może naturalnie sprzyjać ochronie, gdy ludzie stworzą odpowiednie systemy i zaczną korzystać z lepszych narzędzi weryfikacji.

Hakerzy wykorzystujący AI a przyszłość cyberbezpieczeństwa

Buterin podał prosty przykład związany z zaawansowaną sztuczną inteligencją i matematyką. Powiedział:

„Jeśli AI potrafi udowodnić twierdzenie Naviera-Stokesa i wielkie twierdzenie Fermata, to potrafi też udowodnić stwierdzenie «ten program jest bezpieczny» jako twierdzenie matematyczne. Nawet jeśli program jest bardzo skomplikowany”.

Buterin podkreślił jednak, że określenie, co tak naprawdę oznacza „bezpieczny”, jest znacznie trudniejsze, niż mogłoby się wydawać. System może wiązać się z wieloma różnymi zagrożeniami, które trzeba wziąć pod uwagę. Definicje bezpieczeństwa mogą być niezwykle szczegółowe. Mogą obejmować sposoby, w jakie atakujący może zakłócić działanie systemu, możliwości wycieku informacji oraz skutki awarii lub przejęcia kontroli nad różnymi częściami oprogramowania czy sprzętu.

Z tego względu, jak powiedział Buterin, niezwykle ważne jest, aby definicje były bardziej zrozumiałe dla ludzi. Określił to jako być może jedyny „język wysokiego poziomu”, który ma teraz znaczenie. Buterin nadal uważa, że w przypadku komponentów kluczowych dla bezpieczeństwa definicja może mieć znacznie mniejszą powierzchnię ataku niż sama implementacja.

Sprawdzenie, czy specyfikacja jest wystarczająca, może być też łatwiejsze do opanowania niż bezpośrednie przeglądanie kodu. Powiedział, że lepsze narzędzia mogłyby uczynić ten proces jeszcze bardziej praktycznym.

Dostrzega nawet zaletę pracy ze specyfikacjami. Można je łączyć. Jeśli dwie grupy mają różne specyfikacje, programiści mogą wykazać, że program spełnia obie. Jeśli nie da się spełnić obu specyfikacji jednocześnie, konflikt zostaje wyodrębniony i staje się ważną kwestią, którą projekt musi rozwiązać.

Weryfikacja całego programu

Według współzałożyciela Ethereum kod tak nie działa. Jeśli program składa się z różnych części, błąd w dowolnej z nich może zagrozić całości. Buterin przyznał, że takie podejście nie sprawdza się równie dobrze w przypadku każdego rodzaju oprogramowania. W niektórych przypadkach, na przykład w komponentach interfejsu użytkownika, specyfikacja może być niemal tak obszerna jak implementacja.

Powiedział jednak, że w przypadku wielu kluczowych komponentów różnica jest wyraźna. Wskazał konkretnie na protokoły przekazywania komunikatów, piaskownice oraz systemy kryptograficzne, takie jak SNARK-i i szyfrowanie w pełni homomorficzne. Wcześniej programiści często weryfikowali tylko te fragmenty kodu, które uznawali za kluczowe dla bezpieczeństwa. Reszta pozostawała niesprawdzona. Choć było to zrozumiałe, gdy weryfikacja była trudna i rzadko stosowana, uważa, że współczesna sztuczna inteligencja zmienia tę sytuację.

Dla Buterina odpowiedzią nie jest więc po prostu nadzieja, że „dobrzy” znajdą luki w zabezpieczeniach przed „złymi”. Ważniejszą strategią jest przede wszystkim znaczne zwiększenie odporności kodu. Jego zdaniem blockchaine, zwłaszcza te skupione na skalowalności i prywatności, nie mają przyszłości bez tego rodzaju działań.

Źródło: CryptoPotato