Chiny właśnie zbudowały główny model AI bez chipów Nvidii. Teraz OpenAI znalazło sposoby na działanie przy znacznie mniejszej liczbie z nich, obniżając koszty wnioskowania o ponad połowę. Mimo to akcje Nvidii wzrosły.
To jest zagadka. OpenAI jest jednym z największych klientów Nvidii (NVDA). A jednak akcje wzrosły, mimo że firma zaczęła potrzebować mniej chipów.
OpenAI obniża koszty wnioskowania na dwóch frontach
Pierwszym frontem jest oprogramowanie. The Information doniosło, że inżynierowie OpenAI obniżyli koszty wnioskowania o ponad połowę dzięki nowym metodom optymalizacji. OpenAI nie opublikowało szczegółów technicznych.
Oszczędności zmniejszają liczbę chipów Nvidii potrzebnych do obsługi części ruchu ChatGPT. Mogą również pozwolić OpenAI obniżyć ceny lub zwiększyć limity użytkowania.
Drugim frontem jest sprzęt. 24 czerwca OpenAI i Broadcom (AVGO) zaprezentowały Jalapeño, swój pierwszy niestandardowy chip. OpenAI powiedziało, że wczesne testy wskazują na znacznie lepszą wydajność na wat niż dzisiejsze wiodące chipy, z dziewięciomiesięcznym projektem.
Pierwsze chipy będą wdrażane na skali gigawata do końca 2026 roku, z Microsoftem jako głównym partnerem. Nvidia nadal obsługuje większość wnioskowania OpenAI, mimo że OpenAI finansuje swoje partnerstwo z Broadcom.
Wielka technologia ściga się, aby zbudować własne chipy
OpenAI nie jest sama. Google buduje jednostki przetwarzania tensorowego od 2016 roku, a Amazon poszedł w jego ślady. Firma badawcza TrendForce prognozuje, że systemy oparte na ASIC osiągną 27,8% dostaw serwerów AI w 2026 roku, najwyższy poziom od 2023 roku.
Według TrendForce, niestandardowe chipy mają rosnąć szybciej niż GPU Nvidii po raz pierwszy. Tacy dostawcy jak Broadcom i Marvell stali się kluczowymi producentami niestandardowych chipów w rozbudowie.
Sankcje napędzają ten sam trend w Chinach. Meituan niedawno wytrenował swój model LongCat-2.0 z 1,6 biliona parametrów na krajowych chipach w Chinach, bez użycia sprzętu Nvidii.
Dlaczego akcje Nvidii wciąż rosną
Zagrożenie jest realne, ale liczby wyjaśniają spokój. Akcje Nvidii wzrosły o prawie 2% 30 czerwca, osiągając wartość bliską 4,8 biliona dolarów. Najnowsze wyniki Nvidii pokazały, że przychody z centrów danych wzrosły o 75% do rekordowych 62,3 miliarda dolarów w jednym kwartale.
Większość presji dotyczy wnioskowania, a nie treningu. Nvidia wciąż dominuje w treningu modeli, gdzie jej oprogramowanie CUDA zablokowało deweloperów od 2006 roku. Niestandardowe chipy rzadko dorównują tej elastyczności.
Nvidia broni również warstwy wnioskowania, z której jest oskarżana o utratę. Na GTC Nvidia powiedziała, że jej nadchodząca platforma Rubin obniża koszty wnioskowania na token o nawet 10 razy w porównaniu do Blackwell. Tańsze wnioskowanie również zwykle zwiększa wykorzystanie i całkowitą moc obliczeniową.
Nie wszyscy są przekonani. Niektórzy inwestorzy przeszli do akcji konkurencyjnych chipów, obstawiając, że zmiana wnioskowania się nasili. Jednak Nvidia przewidziała ten kwartał, nie uwzględniając żadnej sprzedaży w Chinach, a mimo to widzi rekordowy popyt.
Nvidia wciąż sprzedaje każdy chip, który może wyprodukować. Prawdziwym testem jest to, czy jej najwięksi klienci będą mogli szybciej zrezygnować z jej produktów niż rynek będzie rósł.
Źródło: BeInCrypto
