Vânzarea cipurilor este doar începutul planurilor Nvidia de a profita de AI
În context: Majoritatea banilor Nvidia provin din vânzarea hardware-ului care umple centrele de date AI. Totuși, aceste vânzări sunt în mare parte oferte unice, așa că Jensen Huang pare dornic de ceva care continuă să plătească după livrarea jeturilor. La GTC Berlin săptămâna trecută, CEO-ul a spus că costă aproximativ 2.000 de dolari per GPU în fiecare an pentru a rula întregul software al companiei pentru agenții AI.
Registrul a fost primul care a raportat citatul lui Huang dintr-o sesiune de întrebări și răspunsuri la evenimentul din 22 octombrie. CEO-ul le-a spus participanților că licențele pentru software „va deveni din ce în ce mai mult o parte importantă a afacerii companiei noastre”. Cifra de 2.000 de dolari a fost exemplul lui despre cum ar fi prețul licenței.
Acești bani acoperă software-ul Nvidia necesar pentru a rula agenți în ceea ce compania numește fabrici AI – numele său pentru centrele de date construite în jurul muncii AI. Cu toate acestea, nu este clar cum se potrivește acest lucru cu ceea ce percepe deja Nvidia. Compania vinde o suită AI Enterprise pe care companiile licență pentru a construi și a rula AI pe hardware-ul său. Este listat la 4.500 USD per GPU timp de un an, inclusiv suport. Angajamentul pe cinci ani aduce totalul la 18.000 USD per GPU, echivalentul a 3.600 USD pe an.
Cifra lui Huang este mai mică decât ambele prețuri existente, dar compania nu a explicat cum se leagă cele două prețuri. De asemenea, nu se știe când ar putea ajunge prețul de 2.000 USD.
Compania a dezvoltat acel software agent într-un ritm rapid. Cu o zi înainte de întrebări și răspunsuri, a lansat OpenShell Reference Architecture, o extindere a unei platforme de siguranță introdusă în septembrie. În ea, agenții rulează pe procesoarele Vera în interiorul OpenShell, un sandbox open-source care controlează ce fișiere, rețele și instrumente pot ajunge. Cipurile de rețea BlueField-4 care rulează software-ul Sentry de la Nvidia urmăresc din exterior și pot pune în carantină un agent în câteva milisecunde dacă depășește aceste limite.
Huang s-a sprijinit pe OpenShell când a fost întrebat despre siguranța AI în timpul aceleiași sesiuni. „Dacă faci o omletă, nu ai nevoie de ciocan”, a spus el.
La 2.000 USD fiecare, fiecare milion de GPU-uri licențiate ar aduce Nvidia 2 miliarde USD în venituri anuale recurente, atâta timp cât clienții vor continua să ruleze software-ul. Nu este mult lângă cei 96,2 miliarde de dolari pe care compania a adus-o în ultimul trimestru. Totuși, sunt bani care nu depind de cineva care cumpără jetoane noi.
Deoarece taxa se percepe pe GPU, contează și modul în care Nvidia numără un GPU. Când Huang a spus anul trecut că compania va începe să numere fiecare matriță de siliciu ca un GPU separat, The Register a remarcat că schimbarea ar putea dubla numărul de licențe AI Enterprise de care au nevoie unele servere. De atunci, Nvidia a revenit la numărarea modulelor întregi pentru Vera Rubin, cel puțin în modul în care își descrie sistemele.
