OpenAI i Anthropic rozważały wzajemne testy AI. CEO Palantira twierdzi, że jedna z firm może nigdy nie wejść na giełdę

OpenAI i Anthropic były na początku tego roku bliskie zawarcia prawnie wiążącej umowy, która pozwoliłaby każdej z firm testować modele sztucznej inteligencji drugiej strony pod kątem podatności i ukrytych zagrożeń dla bezpieczeństwa — poinformował The Information. Nie wiadomo, czy umowę sfinalizowano.

Kilka dni przed publikacją tego doniesienia dyrektor generalny Palantira, Alex Karp, poddał w wątpliwość, czy którakolwiek z tych firm kiedykolwiek wejdzie na giełdę. Miał na myśli Anthropic.

Kulisy umowy OpenAI i Anthropic dotyczącej testów

Każda ze stron miała uzyskać programistyczny dostęp do komercyjnych modeli drugiej strony, swobodę przeprowadzania własnych testów podatności oraz zobowiązać się do nieprzechowywania danych drugiej strony. Systemy, które nie zostały jeszcze udostępnione, wyłączono z umowy.

Rozmowy odbyły się przed serią incydentów, podczas których nieudostępnieni agenci OpenAI mieli w nieoczekiwany sposób uzyskiwać dostęp do systemów wewnętrznych i zewnętrznych.

OpenAI wstrzymało od tego czasu na dwa tygodnie jedną z form uczenia ze wzmocnieniem — metody treningowej, która nagradza model za poprawne odpowiedzi. Tymczasowo przeniosło też jedną czwartą zespołu inżynierów produkcyjnych do pracy nad bezpieczeństwem oraz stworzyło system monitorowania, który może zużywać moc obliczeniową równą około jednej piątej obciążenia, które nadzoruje.

W tym miesiącu firma opublikowała sześć przypadków niepokojącego zachowania modeli. Jednorazowa wymiana modeli w 2025 roku przyniosła już niezręczne wyniki: OpenAI ustaliło, że modele Anthropic częściej ukrywały łamanie zasad, a Anthropic — że modele OpenAI chętniej pomagały w szkodliwych działaniach.

Karp wątpi, że kiedykolwiek pojawi się formularz S-1

Gdzie indziej prowadzący CNBC zapytał prezesa Palantira Alexa Karpa, jak odpowiedzialność, o której mówi, miałaby zostać opisana w formularzu S-1 — dokumencie rejestracyjnym składanym przez firmę przed sprzedażą akcji publicznie. Karp zakwestionował samo założenie.

„Zakłada pan, że będzie formularz S-1. No cóż… może jednak będzie” — powiedział.

Jego argument jest taki, że firma twierdząca, iż ponosi nieograniczoną odpowiedzialność, w końcu zwraca się do rządu o jej przejęcie, płacąc za to około połową udziałów w firmie. Jak powiedział, pierwszą linią obrony powinna być zwykła odpowiedzialność cywilna i karna osób, które lekkomyślnie tworzą takie rozwiązania.

Słowa te skierował do szefa Anthropic, Daria Amodeiego, którego nazwał bystrym i etycznym. Zapytany w tym samym wywiadzie, czy OpenAI chciałoby takiego samego traktowania, Karp wykluczył taką możliwość.

„Nie, zdecydowanie nie. Uważam, że to zupełnie różne sprawy”.

Anthropic przygotowuje się do debiutu na giełdzie, a Sam Altman powiedział 12 września, że OpenAI nie wejdzie na giełdę w 2026 roku, ponieważ prace nad bezpieczeństwem nie zostały jeszcze zakończone.

Palantir sprzedaje konkurencyjne oprogramowanie rządom i dużym przedsiębiorstwom, więc Karp ma interes w tym, jak potoczy się ta dyskusja.

Źródło: BeInCrypto