Conform Playtech.ro: Nvidia introduce o nouă arhitectură pentru procesoare, numită LPX, care promite o eficiență energetică și o performanță îmbunătățite, în special în sarcinile de inteligență artificială. Această tehnologie nu elimină complet GPU-urile, ci le completează, creând o strategie hibridă pentru procesarea modelelor AI complexe.nnNoua arhitectură LPX se distanțează de mecanismele tradiționale întâlnite în procesoarele clasice, precum predicția ramificațiilor, cache-urile sau execuția out-of-order. În schimb, se bazează pe stabilirea prealabilă a fiecărei operațiuni de către compilator, până la nivelul ciclurilor de ceas.nn Această abordare permite o anticipare precisă a consumului electric, sistemul pregătind alimentarea înainte ca o anumită zonă a cipului să solicite energie. Astfel, variațiile de tensiune sunt reduse semnificativ, Nvidia afirmând o scădere a „voltage droop” cu peste 60% și a depășirilor de tensiune cu peste 70%.nnControlul predictibil al sarcinilor contribuie și la gestionarea temperaturii. În loc ca performanța totală să fie limitată de cea mai fierbinte zonă, sarcinile pot fi distribuite uniform, asigurând o răcire mai eficientă. Nvidia estimează că această metodă poate genera o performanță suplimentară de aproximativ 10-11% în cadrul aceleiași limite termice.nn
Nvidia combină lpx cu gpu-urile vera rubin
nnProcesoarele LPX, exemplificate prin modelul Groq 3 LPX, nu sunt concepute ca înlocuitori pentru GPU-urile Nvidia, ci ca un partener de procesare. Strategia companiei vizează împărțirea sarcinilor unui model AI între două tipuri de hardware.nnGPU-urile din platforma Vera Rubin NVL72 vor fi responsabile pentru etapa de „prefill”, o fază care necesită o putere de calcul masivă și o capacitate mare de memorie. Ulterior, procesoarele LPX vor prelua sarcina de „decode”, unde se generează efectiv răspunsul.nnMotivul acestei diviziuni este capacitatea de memorie. Un GPU Rubin dispune de aproximativ 288 GB de memorie HBM4, o valoare incomparabil mai mare decât cei aproximativ 500 MB de SRAM ai unui LP30. Pentru modele AI de dimensiuni extrem de mari, memoria devine rapid un factor limitativ pentru arhitectura LPX.nnnnÎn scenariul unui model de 31 de miliarde de parametri în FP8, ar fi necesare aproximativ 62 de procesoare LP30 doar pentru stocarea parametrilor. Pentru modele Mixture-of-Experts cu trilioane de parametri, numărul cipurilor poate ajunge la mii, necesitând multiple rack-uri de calcul.nn
Sursa: Playtech.ro
