Huang spune că cipurile AI rămân utile cel puțin opt ani, iar Elon Musk face un caz similar
Pe scurt: CEO-ul Nvidia, Jensen Huang, spune că acceleratoarele AI ale companiei pot rămâne productive timp de opt ani sau mai mult, datorită performanței, versatilității și îmbunătățirilor continue ale software-ului. El susține că ciclul tradițional de viață de patru ani asociat în mod obișnuit cu procesoarele grafice nu mai reflectă durata de viață utilă a sistemelor de calcul ale Nvidia.
Vorbind cu Deirdre Bosa de la Yahoo Finance în marginea conferinței GTC a Nvidia de la Berlin, CEO-ul Jensen Huang a descris acceleratoarele AI ale companiei ca fiind „productive”, „fungibile” și „durabile”. El a susținut că investitorii și creditorii ar trebui să regândească modul în care evaluează investițiile în infrastructura AI.
Potrivit lui Huang, riscul de a acorda împrumuturi împotriva hardware-ului Nvidia este „cel mai scăzut dintre orice activ”, deoarece cipurile păstrează o valoare reziduală semnificativă pentru mai mulți clienți și sarcini de lucru. Această versatilitate le-ar putea face garanții atractive pentru împrumuturi. Huang a susținut că finanțatorii nu au apreciat încă pe deplin flexibilitatea acceleratoarelor AI ale Nvidia atunci când le evaluează valoarea pe termen lung.
Comentariile lui Huang reflectă observații similare ale lui Elon Musk, care a susținut recent că acceleratoarele AI mai vechi pot fi mai profitabile decât hardware-ul mai nou pentru sarcinile de lucru de inferență, datorită performanței lor superioare pe watt. Musk crede că companiile ar trebui să evalueze hardware-ul AI în funcție de cât de multă inteligență poate genera pe watt de electricitate, mai degrabă decât să se concentreze doar pe puterea brută de procesare.
Pentru a sprijini această abordare a performanței pe watt, Musk a indicat cipurile H100 de la Nvidia, care se pare că valorează mai mult astăzi decât atunci când au fost lansate pentru prima dată. Îmbunătățirile aduse modelelor AI și tehnicilor de inferență au permis aceluiași hardware să ofere rezultate mai bune decât înainte, sporind potențial valoarea acestuia.
Atât Huang, cât și Musk evidențiază o tendință care atrage atenția de ceva timp: acceleratoarele Nvidia A100 și H100 au păstrat o valoare reziduală mai mare decât s-ar fi așteptat mulți. B200 este un exemplu și mai izbitor, fiind închiriat sau comercializat la prețuri echivalente cu 158% din prețul său de achiziție inițial.
Cu toate acestea, mai mulți factori influențează piața second-hand a acceleratoarelor AI, iar creșterea prețurilor nu spune întreaga poveste. Potrivit persoanelor din industrie, valoarea acceleratoarelor mai vechi depinde nu numai de starea, disponibilitatea și configurația sistemului, ci și de sarcinile de lucru pe care se așteaptă să le gestioneze.
