O realizare „supraomenească”, potrivit lui Jensen Huang
Nebun: Puțini ar susține că Elon Musk este condus. În ciuda diferiților săi detractori, antreprenorul a transformat Tesla și SpaceX în competitori majori, dacă nu lideri, în industriile respective. Acest succes vine în mijlocul diferitelor eforturi secundare, cum ar fi Neuralink și tranziția Twitter/X. Acum, echipa sa xAI a pus în funcțiune un supercluster AI în doar câteva săptămâni.
Elon Musk și echipa sa xAI au făcut aparent imposibilul. Compania a construit un supercluster de 100.000 de GPU-uri Nvidia H200 Blackwell în doar 19 zile. CEO-ul Nvidia, Jensen Huang, a numit isprava „supraomenească”. Huang a împărtășit povestea incredibilă într-un interviu cu grupul Tesla Owners Silicon Valley pe X.
Potrivit lui Huang, construirea unui supercomputer de această dimensiune ar dura majoritatea echipajelor în jur de patru ani – trei ani de planificare și un an de transport, instalare și configurare operațională. Cu toate acestea, în mai puțin de trei săptămâni, Musk și echipa sa au gestionat întregul proces – de la concept până la funcționalitatea completă. Superclusterul xAI și-a încheiat chiar prima cursă de antrenament AI la scurt timp după ce clusterul a fost pornit.
Elon Musk este super om.
Ceea ce le-ar lua tuturor un an, i-a luat doar 19 zile. pic.twitter.com/q51sM48lsu
– Tesla Owners Silicon Valley (@teslaownersSV) 13 octombrie 2024
Huang era aproape fără cuvinte, luptându-se să construiască un cap de abur înainte de a-l descrie.
„În primul rând, (bâlbâie) niște (bâlbâie) 19 zile este incredibil… Știi câte zile sunt 19 zile? Sunt doar câteva săptămâni. Și muntele tehnologiei, dacă ar fi să-l vezi vreodată, este de necrezut… Ceea ce au realizat nu a fost făcut niciodată până acum. Un supercomputer (de dimensiuni comparabile) pe care l-ați construi, ar dura, în mod normal, trei ani pentru a-și planifica – și apoi ei livrează echipamentul și durează un an. pentru ca totul să funcționeze.”
Huang și-a transmis respectul pentru expertiza inginerească a lui Musk, subliniind provocările legate de integrarea hardware-ului de ultimă oră Nvidia.
„Numărul de fire care intră într-un singur nod… partea din spate a unui computer este reprezentată de toate firele”, a remarcat Huang, observând că echipamentele Nvidia de rețea necesită un alt nivel de complexitate decât centrele de date tradiționale la scară ridicată.
Proiectul a necesitat instalarea GPU-urilor și construirea și obținerea autorizațiilor pentru o „fabrică X” complet nouă, echipată cu sisteme avansate de răcire și infrastructură de alimentare pentru a asigura funcționarea perfectă a clusterului a celor 200.000 de GPU-uri. Coordonarea dintre inginerii lui Musk și echipa Nvidia a fost o altă performanță monumentală, asigurându-se că hardware-ul și infrastructura au fost livrate, instalate și sincronizate perfect.
Vino să ajuți xAI să direcționeze fotonii ca tehnologie de elită a fibrelor în Memphis! pic.twitter.com/JJShV75May
– xAI (@xai) 15 iulie 2024
„Acest nivel de integrare nu a mai fost niciodată realizat înainte și s-ar putea să nu se mai facă din nou în curând”, a remarcat Huang.
Superclusterul reprezintă un salt masiv în infrastructura AI, poziționând xAI ca un concurent semnificativ în cercetarea și dezvoltarea AI. Cu puterea de calcul disponibilă acum, echipele lui Musk ar putea accelera semnificativ proiectele care implică rețele neuronale avansate, învățarea profundă și procesarea limbajului natural.
