Samsung dezvoltă prima memorie HBM integrată cu AI. Astfel, aduce capacități de calcul AI puternice în memoria de înaltă performanță.
Samsung dezvoltă prima memorie HBM integrată cu AI
Samsung a anunțat că a dezvoltat prima memorie cu lățime de bandă mare (HBM) din industrie integrată cu puterea de procesare a inteligenței artificiale (AI) – HBM-PIM.
Noua arhitectură de procesare în memorie (PIM) aduce capacități de calcul AI puternice în memoria de înaltă performanță. Acestea accelerează procesarea pe scară largă în centrele de date, sisteme de calcul de înaltă performanță (HPC) și aplicații mobile compatibile cu AI.
„Revoluționarul nostru HBM-PIM este prima soluție PIM programabilă din industrie, adaptată pentru diverse sarcini de lucru bazate pe AI, cum ar fi HPC, training și inferență. Ne propunem să ne folosim de această soluție și să continuăm colaborarea cu furnizorii de soluții AI pentru aplicații PIM mai avansate”, a declarat Kwangil Park, vice președinte senior în cadrul Memory Product Planning at Samsung Electronics.
”Sunt încântat să văd că Samsung abordează provocările în ceea ce privește lățimea de bandă/putere de memorie pentru computerele HPC și AI. Proiectarea HBM-PIM a demonstrat performanțe impresionante în ceea ce privește clasele importante de aplicații AI, așadar de abia așteptăm să lucrăm împreună pentru a evalua performanța sa în problemele suplimentare de interes pentru Laboratorul Național Argonne”, declară Rick Stevens, Argonne’s Associate Laboratory Director for Computing, Environment and Life Sciences.
Majoritatea sistemelor de calcul se bazează pe arhitectura von Neumann
Aceasta utilizează unități separate de procesor și memorie pentru a efectua milioane de sarcini complexe de procesare a datelor. Această abordare de procesare secvențială necesită ca datele să se miște în mod constant. Astfel, poate avea ca rezultat încetinirea sistemului. În special atunci când e vorba de volume mari de date.
În schimb, HBM-PIM aduce puterea de procesare direct acolo unde sunt stocate datele. Acest lucru este posibi prin plasarea unui motor DRAM optimizat AI în fiecare bancă de memorie. Astfel, permite procesarea paralelă și minimizarea mișcării datelor.
Atunci când este aplicată soluției HBM2 Aquabolt furnizată de Samsung, noua arhitectură este capabilă să ofere performanțe de două ori mai mari. De asemenea, reduce consumul de energie cu peste 70%. HBM-PIM nu necesită modificări hardware sau software, permițând integrarea mai rapidă în sistemele existente.
Lucrarea Samsung despre HBM-PIM a fost selectată pentru a fi prezentată în cadrul International Solid-State Circuits Virtual Conference – ISSCC. Conferința are loc până pe 22 februarie. Validările vor fi finalizate în prima jumătate a acestui an.
