Kit-ul Jetson Orin Nano Super Developer se mândrește cu o creștere a performanței cu 70% față de modelul anterior
Pe scurt: Pe măsură ce peisajul AI continuă să evolueze, impactul dispozitivelor precum Jetson Orin Nano Super asupra democratizării dezvoltării AI ar putea juca un rol important. Cu toate acestea, performanța sa în lumea reală va deveni clară doar cu timpul și utilizarea pe scară largă de către comunitatea de dezvoltatori.
Nvidia, cunoscută pentru unitățile sale de procesare grafică, a anunțat o nouă adăugare la linia sa de instrumente de dezvoltare AI: Jetson Orin Nano Super Developer Kit, un supercomputer AI generativ de dimensiunea palmei disponibil pentru 249 USD, jumătate din costul predecesorului său de 499 USD.
Destinat dezvoltatorilor AI, pasionaților și studenților, kit-ul se mândrește cu afirmații de performanță impresionante, inclusiv 67 INT8 TOPS (trilioane de operații pe secundă), ceea ce reprezintă o creștere cu 70% față de modelul anterior. Compania raportează, de asemenea, o creștere cu 50% a lățimii de bandă a memoriei, ajungând acum la 102 GB/s și o îmbunătățire de până la 1,7 ori a performanței generative de inferență AI. Jetson Orin Nano permite luarea deciziilor în timp real și capacitatea de răspuns atunci când procesează datele local pe dispozitive.
La baza lui Jetson Orin Nano Super se află un GPU cu arhitectură Nvidia Ampere cu nuclee tensor, asociat cu un CPU Arm cu 6 nuclee. Această combinație permite mai multe conducte de aplicații AI simultane și inferențe de înaltă performanță, potrivit Team Green. Kitul acceptă până la patru camere și oferă o rezoluție și rate de cadre mai mari în comparație cu versiunile anterioare.
Nvidia subliniază versatilitatea kit-ului, sugerând adecvarea acestuia pentru crearea de chatbot-uri cu modele de limbaj mari (LLM), agenți vizuali AI și roboți bazați pe AI. Cu toate acestea, aceste capacități nu au fost încă verificate independent.
Interesant este că Nvidia afirmă că proprietarii Jetson Orin Nano Developer Kit pot accesa câștiguri similare de performanță printr-o actualizare software a SDK-ului JetPack. Această mișcare poate prelungi durata de viață a hardware-ului mai vechi, dar ridică întrebări cu privire la necesitatea achiziționării de hardware nou pentru unii utilizatori.
Kit-ul vine cu suport software extins, inclusiv instrumente Nvidia AI, cum ar fi Isaac pentru robotică, Metropolis pentru viziune AI și Holoscan pentru procesarea senzorilor. Compania subliniază, de asemenea, suportul comunității și tutorialele disponibile prin laboratorul Nvidia Jetson AI.
În timp ce anunțul Nvidia se concentrează pe potențialul kit-ului pentru aplicații AI generative, merită remarcat faptul că aplicațiile practice și limitările unui astfel de dispozitiv compact în acest domeniu în evoluție rapidă rămân de văzut. Pe de altă parte, lansarea acestui kit mai accesibil și mai performant ar putea reduce bariera de intrare pentru dezvoltarea AI.
Lansarea sa vine într-un moment al interesului din ce în ce mai mare pentru edge AI computing – o tendință determinată de cerințele pentru o latență mai mică, confidențialitate îmbunătățită și utilizare redusă a lățimii de bandă în aplicațiile AI.
Piața AI de vârf se confruntă cu o creștere rapidă, previziunile indicând o creștere de la 20,45 miliarde USD în 2023 la 269,82 miliarde USD până în 2032, la o rată de creștere anuală compusă de 33,3%.
