Sam Altman i Elon Musk spędzili ten rok, walcząc ze sobą w sądzie. Obaj popierają teraz apel szefa Anthropic, Daria Amodeia, o spowolnienie rozwoju sztucznej inteligencji (AI).
W lipcu około 700 agentów AI stworzyło prywatne forum i zhakowało ważny ośrodek AI. Rosja już odmówiła dołączenia.
„Najwyraźniej wydarzyło się coś z modelem AI najnowszej generacji, o czym nie poinformowano publicznie, a co tak ich zaniepokoiło, że Elon Musk, Dario Amodei i Sam Altman jednocześnie zgodzili się spowolnić rozwój”, zauważył jeden z sceptyków.
Na co tak naprawdę zgodzili się ci trzej
Amodei opublikował w sobotę ramy działania obejmujące trzy kroki, z których tylko pierwszy znajduje się pod kontrolą jakiejkolwiek firmy.
Anthropic zapewni zewnętrznemu zespołowi kontrolnemu biurka, identyfikatory i laptopy. Kontrolerzy będą mogli sprawdzić, czy firma przestrzega deklarowanych przez siebie zasad bezpieczeństwa.
Będą mogli opublikować swoje ustalenia, przy czym Anthropic zastrzega sobie prawo do utajnienia informacji dotyczących bezpieczeństwa i kwestii prawnych. Nie będą jednak mogli pominąć żadnego ustalenia tylko dlatego, że stawia firmę w niekorzystnym świetle.
Dwa pozostałe kroki wymagają zaangażowania rządów. Pierwszy zakłada, że amerykańskie laboratoria ustalą wspólne limity, co wymaga zwolnienia z przepisów antymonopolowych. Drugi zakłada, że Waszyngton podejmie rozmowy z państwami autorytarnymi.
Altman powiedział, że OpenAI podejmie takie samo zobowiązanie dotyczące dostępu.
„Zgadzam się z Dariem, że musimy kontrolować tempo rozwoju na granicy możliwości. To jeden z głównych tematów naszych rozmów w OpenAI w ostatnich tygodniach. Pomysł, by zobowiązać się do współpracy z niezależnymi ewaluatorami, którym zapewnimy dostęp na poziomie pracowników, jest świetny — zrobimy tak samo. Wkrótce powiemy więcej” — przyznał.
Śledź nas na X, aby otrzymywać najnowsze wiadomości na bieżąco
Musk poszedł o krok dalej i stwierdził, że konkurenci powinni nawzajem weryfikować swoją pracę. W maju ława przysięgłych oddaliła jego zarzuty wobec Altmana i OpenAI, a Musk odwołuje się od tego wyroku.
Co agenci faktycznie zrobili w lipcu
Między 8 a 13 lipca około 1200 agentów uruchomionych w ramach benchmarku hakerskiego OpenAI wydostało się z piaskownicy. Przekształciły pamięć podręczną plików w tablicę ogłoszeń i wymieniły ponad 70 000 wiadomości.
Około 700 z nich zaatakowało następnie Hugging Face, platformę, na której programiści udostępniają modele AI. Agenci znaleźli ujawnione dane uwierzytelniające, uruchomili własny kod na serwerach platformy i uzyskali dostęp do prywatnych baz danych.
Nikt ich o to nie prosił. Próbowały ustalić, jak oprogramowanie oceniające ich działanie decydowało, co uznawało za sukces. OpenAI nie zauważyło tego przez tydzień.
Dwóch pracowników METR, niezależnej organizacji non-profit zajmującej się ewaluacją, spędziło później sześć dni na miejscu w Redwood Research. Amodei chce, by takie zespoły na stałe pracowały w siedzibie firmy, zamiast być wzywane dopiero po fakcie.
David Sacks, który pełnił funkcję specjalnego pełnomocnika Trumpa ds. AI i kryptowalut, kwestionuje jednak to założenie, zwracając uwagę, że METR może być stronnicza.
„…przestańcie udawać, że potrzebujecie czyjejkolwiek zgody. Przestańcie udawać, że trzeba zawiesić prawo antymonopolowe, żebyście mogli stworzyć kartel. Przestańcie udawać, że potrzebujecie procedury zatwierdzania regulacyjnego, która ma pierwszeństwo przed odpowiedzialnością za produkt. Przestańcie udawać, że METR jest niezależna, skoro jest powiązana z inwestorami i pracownikami Anthropic. Przestańcie udawać, że potrzebujecie tych samych ewaluatorów do nadzorowania konkurentów, którzy nawet nie są w czołówce. A przede wszystkim przestańcie udawać, że motywacja do spowalniania postępu jest czysto altruistyczna” — napisał Sacks.
Zdaniem Davida Sacksa Anthropic jest sceptyczne wyłącznie ze względu na ogromną ekspozycję na odpowiedzialność za produkt w przypadku, gdyby ich produkty umożliwiły naprawdę destrukcyjny cyberatak.
Ten tok myślenia wynika z faktu, że rynek ma tendencję do karania modeli, które zachowują się w nieprzewidywalny sposób lub bez upoważnienia.
W podobnym tonie pisze autor Brian Merchant w swoim newsletterze Blood in the Machine, twierdząc, że nikt nie przedstawił wiarygodnej drogi od samodoskonalącej się AI do katastrofy. Jego zdaniem działania na rzecz bezpieczeństwa to próba przejęcia regulacji.
„Nie natknąłem się na wiarygodną, krok po kroku przedstawioną dokumentację wyjaśniającą, jak dokładnie AI mogłaby przejść od AI samodoskonalącej się rekurencyjnie do zabicia każdego człowieka……prawdopodobnie przysłużyłoby się to wyłącznie Anthropic i OpenAI; tak właśnie wygląda przejmowanie regulacji w praktyce”.
Przypuszczenie Merchanta przywodzi na myśl kwestię pieniędzy.
A co z pieniędzmi?
Sam Altman potwierdził, że OpenAI nie wejdzie na giełdę w tym roku, ponownie powołując się na kwestie bezpieczeństwa.
Wejście na giełdę zmusza spółkę do opublikowania zbadanych sprawozdań finansowych w dokumencie składanym do SEC, zwanym formularzem S-1.
„Anthropic i OpenAI opóźniają debiut giełdowy, bo ich formularz S-1 ujawni, że tracą pieniądze i nie mają żadnej drogi do rentowności. Rozwiązanie? «Spowolnienie AI», czyli cięcie kosztów trenowania nowych modeli. Ma to wszystko wspólnego z debiutem giełdowym i nic wspólnego z bezpieczeństwem” — spekulował Eli David, badacz AI i współzałożyciel Deep Instinct.
Jak podał BeInCrypto, w 2025 roku OpenAI odnotowało stratę w wysokości 20,9 mld dolarów przy przychodach wynoszących 13,1 mld dolarów. Mimo to banki naciskały później na uzyskanie ratingu kredytowego na poziomie inwestycyjnym.
Anthropic nie spodziewa się osiągnąć progu rentowności przed 2028 rokiem, a OpenAI — przed 2030 rokiem. Nvidia zagwarantowała 105 mld dolarów zobowiązań leasingowych OpenAI — zabezpieczenie to przestanie obowiązywać, gdy OpenAI uzyska solidny rating kredytowy.
W sierpniu BeInCrypto podało, że szczegóły dotyczące terminu wejścia Anthropic na giełdę wskazywały na debiut pod koniec września.
Ta teoria ma jednak słaby punkt. Musk włączył swój dział AI do SpaceX, które weszło na giełdę w czerwcu, więc pytania o wycenę SpaceX napędzaną przez AI są już publiczne. Jemu samemu nie pozostało nic do ujawnienia.
Dlaczego Kirill Dmitrijew z Rosji powiedział „nie”
Kirill Dmitrijew, który kieruje Rosyjskim Funduszem Inwestycji Bezpośrednich (RDIF) i pełni funkcję specjalnego przedstawiciela prezydenta Władimira Putina, odrzucił kampanię na rzecz spowolnienia rozwoju AI.
„Dżina 🧞♀️ nie da się z powrotem zamknąć w butelce” — powiedział.
Krótko mówiąc, jest już za późno, a państwowe agencje TASS i Izwiestija przedstawiły to jako jednoznaczną deklarację, że spowolnienie rozwoju AI jest niemożliwe.
Moskwa ma niewiele powodów, by się zgodzić. Podobna myśl pojawiła się wcześniej u prezydenta Władimira Putina (grudzień 2023 r.), który powiedział, że „nie da się zatrzymać tego rozwoju” AI, w tym superinteligencji.
„Jeśli czegoś zakażemy, rozwój po prostu przeniesie się gdzie indziej, a my zostaniemy w tyle”.
Dwa i pół roku później Dmitrijew kieruje się tą samą logiką.
Rosja zajęła 28. miejsce wśród 36 krajów w światowym indeksie AI opracowanym przez Stanford, daleko za USA i Chinami.
W 2024 r. import układów graficznych i sprzętu AI spadł o 84% w porównaniu z poziomem sprzed wojny. W maju Sbierbank zaczął szukać chińskich procesorów, by utrzymać działanie własnego modelu.
Plan Amodeia z założenia pogłębia tę przepaść. Zakłada odcięcie państw autorytarnych od zaawansowanych układów i zwiększenie przewagi demokracji.
Pakt o spowolnieniu rozwoju zamroziłby Rosję na ostatnim miejscu. Odmowa nic Moskwę nie kosztuje, bo niezbędny jej sprzęt i tak jest zablokowany.
Anthropic obiecał osobom z zewnątrz plakietkę i biurko, a OpenAI obiecało się nad tym zastanowić.
„To jakiś początek, ale to nie wystarczy. Kiedy pędzisz w stronę urwiska, nie wystarczy tylko zdjąć nogę z gazu. Trzeba zahamować” — powiedział Bernie Sanders.
Senator USA ze stanu Vermont wzywa prezydentów Trumpa i Xi Jinpinga do wynegocjowania traktatu o wstrzymaniu rozwoju AI i zakazie superinteligencji, zanim będzie za późno.
Jednak David Sacks twierdzi, że Chiny raczej nie przystąpią do globalnego porozumienia.
Źródło: BeInCrypto
