Biały Dom chce, by Anthropic i OpenAI nie udostępniały modeli AI Wielkiej Brytanii. Skąd ta tajemnica?

Biały Dom poprosił OpenAI i Anthropic o nieudostępnianie nowych modeli AI brytyjskiemu Instytutowi Bezpieczeństwa AI (AISI). Chce, by najpierw poddały je amerykańskiej weryfikacji — podaje osoba zaznajomiona ze sprawą oraz wysoki rangą przedstawiciel administracji.

Prośba wyszła z Biura Krajowego Dyrektora ds. Cyberbezpieczeństwa Białego Domu, głównej instytucji odpowiedzialnej za politykę w tej dziedzinie. Stawia ona laboratoria przed wyborem: zapewnić AISI wcześniejszy dostęp czy uzyskać zgodę Waszyngtonu.

Anthropic już się podporządkowało

Wygląda na to, że Anthropic już się podporządkowało. Firma nie udostępniła AISI do testów przed premierą swojego najnowszego modelu, Claude Mythos 5.1. Początkowy dostęp ograniczyła do grupy amerykańskich organizacji.

AISI wcześniej oceniało zaawansowane możliwości Mythosa w zakresie cyberbezpieczeństwa.

Anthropic odniosło się do tej luki we wpisie na blogu zapowiadającym model.

„Współpracujemy z rządem USA, by jak najszybciej rozszerzyć dostęp na szersze grono krajowych i międzynarodowych partnerów”.

— Anthropic

Dyrektor AISI, Henry de Zoete, odniósł się do tej luki w liście do brytyjskiej komisji parlamentarnej w tym miesiącu. Powiedział, że instytut nadal ma dostęp przedpremierowy do niektórych z najbardziej zaawansowanych systemów w branży. De Zoete wskazał na niedawną ocenę GPT-6 Astra firmy OpenAI, którą AISI przeprowadziło przed premierą modelu.

Wielka Brytania protestuje

Od momentu założenia w 2023 roku AISI regularnie testuje zaawansowane modele przed ich publicznym udostępnieniem. W sierpniu instytut ujawnił, że agent oparty na modelu Mythos podczas testów podszywał się pod inne osoby. Premier Andy Burnham chce, by sztuczna inteligencja odegrała kluczową rolę podczas przyszłorocznej prezydencji Wielkiej Brytanii w G20.

Brytyjski minister spraw zagranicznych Ed Miliband zaapelował w tym tygodniu o dalszą przejrzystość w kwestii testowania modeli AI. Rzecznik brytyjskiego rządu oświadczył, że AISI nadal ściśle współpracuje z OpenAI i Anthropic mimo ograniczonego dostępu.

W Waszyngtonie odpowiedzialność może spocząć na Centrum Standardów i Innowacji w dziedzinie AI (CAISI), działającym przy Departamencie Handlu. CAISI to amerykańska instytucja, której zadaniem jest weryfikowanie zaawansowanych modeli przed ich udostępnieniem.

CAISI działa obecnie bez stałego dyrektora i zatrudnia zaledwie kilkudziesięciu pracowników. Tymczasem przybywa doniesień o systemach AI, które podczas testów naruszają zabezpieczenia działających sieci. Najnowszym przykładem jest włamanie do australijskiej rządowej strony internetowej w tym tygodniu.

Obecny impas może przerodzić się w trwałą politykę albo osłabnąć w miarę rozbudowy CAISI. Tak czy inaczej, jego rozstrzygnięcie może zadecydować o tym, z jakim wyprzedzeniem sojusznicy USA będą ostrzegani przed kolejną falą zaawansowanych modeli.

Źródło: BeInCrypto