SSD-urile GP1 sunt optimizate pentru acces direct la GPU prin interfața PCIe
Gone In A Flash: AI generativă și alte instrumente bazate pe LLM se confruntă cu o provocare semnificativă privind lățimea de bandă a datelor. Puterea de calcul continuă să crească exponențial, dar cantitățile masive de date necesare pentru instruirea și inferența AI trebuie să treacă prin interfețe și tehnologii de stocare cu capacități limitate de lățime de bandă. Kioxia propune o soluție nouă prin apropierea memoriei flash NAND de GPU.
Producătorul japonez de memorie Kioxia aduce pe piața întreprinderilor o nouă clasă de SSD-uri super-rapide. Seria Kioxia GP1 se bazează pe interfața PCIe 6.0 și poate folosi protocolul NVMe 2.2 pentru a servi ca o cale de mijloc între soluțiile de stocare NVMe „pure” și VRAM de memorie cu lățime de bandă mare lipită direct pe un GPU sau pe un PCB al acceleratorului AI.
SSD-urile GP1 Super High IOPS pot realiza 10 milioane de operațiuni de intrare/ieșire pe secundă, explică Kioxia, datorită memoriei XL-FLASH de a doua generație a companiei. Spre deosebire de cipurile tradiționale de memorie TLC utilizate în produsele de larg consum, XL-FLASH este proiectat să ofere performanțe IOPS mai ridicate cu dimensiuni de bloc de 512 de octeți. Mai mult, Kioxia lucrează deja la viitoarele generații XL-FLASH care ar putea crește ratele de date la 100 de milioane IOPS.
SSD-urile GP1 sunt optimizate pentru acces direct la GPU prin interfața PCIe. Unitățile ar trebui să îmbunătățească eficiența de calcul permițând acceleratoarelor AI să acceseze rapid seturi de date mai mari stocate pe memoria flash, fără a necesita cheltuielile masive de extindere a pool-ului de memorie HBM atașat la PCB-ul GPU-ului.
Noile SSD-uri sunt disponibile în factori de formă E3.S și E1.S 9,5 mm/15 mm, cu suport fie pentru soluții tradiționale de răcire cu aer, fie pentru răcire cu lichid pe placă rece (disponibilă numai pentru modelele E3.S și E1.S 9,5 mm). Unitățile oferă o rezistență de stocare de până la 50 de scrieri pe zi.
Potrivit lui Neville Ichhaporia, vicepreședinte senior și director general al unității SSD de la Kioxia America, memoria XL-FLASH poate oferi performanțe foarte înalte și funcționare cu latență scăzută, permițându-i să servească drept un nivel eficient de extensie de memorie pentru GPU-urile serverului. Costul pe gigabyte este semnificativ mai mic decât expansiunile de memorie HBM sau chiar bazate pe DRAM, ceea ce ar putea fi un avantaj major pentru hiperscalerii care construiesc noi centre de date în boom-ul actual al AI.
Producătorii de cipuri precum SanDisk și SK Hynix încearcă să depășească peretele de memorie al AI prin dezvoltarea noii soluții de memorie Flash cu lățime de bandă mare. Între timp, Kioxia continuă să investească masiv în formate de stocare tradiționale, deși foarte capabile, cum ar fi noile sale SSD-uri pentru întreprinderi LC9 de 245 TB.
La începutul acestui an, compania japoneză a spus că SSD-urile accesibile pentru consumatori, care costă 50 USD pe teraoctet, sunt acum de domeniul trecutului. Cu toate acestea, producătorul încă lucrează pentru a aduce soluții de stocare solid-state la versiunile de PC-uri prietenoase cu bugetul, cu seria sa EG7 recent introdusă, care se bazează pe tehnologia NAND cu celule cu patru niveluri (QLC).
