Cum ar putea „tokenomics” să salveze computerele AI

URMĂREȘTE-NE
16,065FaniÎmi place
1,142CititoriConectați-vă

PC-urile cu inteligență artificială au în sfârșit un motiv să existe: reducerea facturilor de inteligență artificială a companiei tale

Există câteva lucruri interesante pe piața PC-urilor care se întâmplă în aceste zile și, mai important, potențialul pentru schimbări și mai puternice în următorul an. La un nivel înalt, s-a prevăzut că livrările generale de PC-uri vor scădea și într-adevăr încep să facă acest lucru pe bază de unitate.

Impulsat în principal de creșterile uriașe ale costurilor de memorie și stocare, prețurile medii de vânzare a PC-urilor au crescut semnificativ în ultimul an. Acest lucru a diminuat cererea generală, în special în rândul consumatorilor sensibili la costuri și al altor segmente de PC-uri low-end.

În ciuda acestui fapt, producătorii majori de PC-uri, în special Dell, HP și Lenovo, au raportat cu toții venituri totale mai mari de PC-uri și se așteaptă ca această creștere să continue până în 2026. Cererea de PC-uri de ultimă generație, mai capabile rămâne puternică, iar veniturile suplimentare generate de aceste mașini mult mai scumpe compensează mai mult decât pierderile de la modelele cu prețuri mai mici. Acest lucru, în sine, este atât interesant, cât și surprinzător.

Cu toate acestea, cred că am putea fi în pragul unei schimbări și mai mari: o creștere semnificativă a cererii de PC-uri capabile de AI. Creșterea explozivă a utilizării AI pentru întreprinderi creează o categorie de cheltuieli corporative complet nouă, jetoane, iar nevoia de a controla aceste cheltuieli ar putea oferi în sfârșit rațiunea economică pentru PC-urile AI pe care industria s-a străduit să le articuleze.

Mai multe schimbări structurale au avut loc deja în modul în care companiile își gândesc nevoile de calcul și încă mai trebuie să se întâmple, care indică această schimbare.

Primul este faptul că companiile au trebuit brusc să se confrunte cu o nouă categorie de cheltuieli de milioane de dolari: cheltuielile prin inferență AI, din ce în ce mai măsurate și gestionate prin consumul de token. Între tendințe precum tokenmaxxing și credința acum general acceptată că companiile riscă să rămână în urmă concurenților lor dacă nu folosesc noile capabilități GenAI și AI agentic cât mai agresiv posibil, organizațiile sunt nevoite să redirecționeze sume enorme de bani către ceva la care abia se gândeau înainte.

Inițial, entuziasmul general și sentimentul de urgență în jurul valorificării GenAI și AI agentic au însemnat că avea loc puțină supraveghere sau analiză a acestor eforturi. Acum, totuși, companiile își dau seama că aceste probleme de tokenomie vor reprezenta o parte mare și pe termen lung a bugetelor lor corporative, așa că se acordă mult mai multă atenție modului în care aceste costuri pot fi gestionate.

La început, practic toate solicitările de token au fost trimise către servicii bazate pe cloud. La început, aceasta nu a fost o preocupare majoră, deoarece majoritatea token-urilor erau generate gratuit, o situație care este încă în mare parte valabilă în alte părți ale lumii, în special în China.

Acest lucru s-a schimbat dramatic în urmă cu aproximativ un an, când furnizorii importanți de modele au început să taxeze pentru utilizarea token-ului. Avem deja furnizori majori de modele, cum ar fi Anthropic, care se presupune că ating rate anuale uimitoare ale veniturilor de 65 de miliarde de dolari.

În același timp, mai multe progrese tehnice deschid noi opțiuni pentru generarea de jetoane. Îmbunătățirile în performanța modelelor mai mici, creșterea dramatică a utilizării modelelor personalizabile cu greutate deschisă și disponibilitatea tot mai mare a infrastructurii AI concepute special pentru centrele de date ale întreprinderilor conduc la noi moduri de a gândi cum pot fi îndeplinite cerințele de calcul centrate pe AI.

În special, creșterea arhitecturilor hibride de inteligență artificială care combină cloud, local și computerul pe dispozitiv oferă organizațiilor mai multe opțiuni cu privire la locul unde sunt generate token-urile. Există, de asemenea, o recunoaștere tot mai mare a faptului că nu toate solicitările de IA trebuie gestionate de modele la nivel de frontieră. Modelele mai mici și mai specializate pot gestiona multe dintre aceste solicitări și, în unele situații, oferă răspunsuri mai bune și mai precise.

PC-urile AI echipate corespunzător, stațiile de lucru „de birou”, precum cele alimentate de cipul Nvidia GB10 și Ryzen AI Max/Max+ 400x de la AMD, se potrivesc perfect în acest nou scenariu. Ele pot rula multe dintre modelele mai puternice și mai compacte care apar zilnic și oferă o nouă alternativă economică interesantă la generarea de simboluri.

De fapt, unii au susținut că aceste sisteme sunt capabile să ruleze echivalentul modelelor la nivel de frontieră de acum aproximativ un an. În plus, datorită numărului tot mai mare de aplicații AI și platforme agentice care folosesc modele deschise, aceste mașini pot fi puse să lucreze la aplicații și soluții mai specializate.

Dincolo de toate aceste motive tehnice, totuși, cel mai simplu și mai convingător argument pentru PC-urile AI este economia, sau mai degrabă, tokenomica. Pentru utilizatorii suficient de mari de AI, deturnarea chiar și a 20% din consumul de token-uri de la modelele costisitoare de cloud către inferența locală ar putea scurta semnificativ perioada de rambursare pe un PC AI de 4.000 USD. În unele scenarii de utilizare ridicată, ar putea reduce această perioadă la luni și nu la ani.

Aruncați potențialul de a trimite, să zicem, încă 30% din solicitările de token către un server local, echipat cu GPU sau către o fabrică de IA pentru întreprinderi, așa cum le-a etichetat Jensen Huang de la Nvidia, iar economiile ar putea fi și mai mari.

Desigur, ar exista o cheltuială inițială de capital pentru aceste achiziții, dar construirea unui model de rentabilitate a investiției care să le justifice devine din ce în ce mai ușoară în fiecare zi. Atingerea fondurilor simbol nou create sau a liniilor bugetare pe care organizațiile au fost forțate să le stabilească ar putea face argumentul mai ușor.

Oricât de logic sună, cu siguranță există obstacole în cale. În primul rând, procesul de achiziție de PC-uri existent la majoritatea organizațiilor este structurat într-un mod care nu ar putea justifica niciodată aceste tipuri de achiziții.

Companiile au de obicei planuri de ciclu de viață de trei până la cinci ani pentru computerele lor și caută să mențină prețurile de achiziție în intervalul istoric de la 1.000 USD la 2.000 USD pentru sistemele corporative. Trecerea la o implementare la nivel de flotă a mașinilor mult mai scumpe ar necesita modificări la nivel de C-suite la procese bine stabilite și probabil foarte protejate.

Schimbarea critică este că întreprinderile trebuie să înceteze să se gândească la PC-urile AI strict ca achiziții de puncte finale și să înceapă să se gândească la ele ca infrastructură AI distribuită.

În al doilea rând, provocarea de a împărți și orchestra cel mai bine diferitele elemente ale unui singur prompt AI sau flux de lucru în diferite resurse de calcul într-un mediu hibrid AI nu a fost încă rezolvată.

Multe organizații lucrează în mod clar la această provocare, iar standardele din industrie, cum ar fi MCP și A2A, ajută la crearea bazei de interoperabilitate necesare pentru calcularea AI mai eterogene. Ceea ce rămâne imatur este stratul de inteligență capabil să determine în mod dinamic ce model și resursă de calcul ar trebui să gestioneze fiecare parte a unui flux de lucru pe baza capacității, costurilor, latenței, confidențialității și disponibilității.

Din fericire, vedem și eforturile unora dintre cei mai mari furnizori de modele de a face versiuni ale modelelor lor disponibile în diferite medii. În urmă cu câteva luni, Google a anunțat un acord cu Dell care permite versiunilor Gemini să ruleze pe infrastructura Dell AI în cadrul întreprinderilor.

În plus, există stimulente economice clare pentru companii precum Anthropic și OpenAI pentru a crea instrumente care să le permită să mențină un anumit grad de utilizare într-un mediu hibrid AI. O parte din majoritatea solicitărilor AI vor continua probabil să necesite un răspuns de la cele mai recente modele de frontieră. Prin crearea de instrumente care fac acest proces fără întreruperi, aceste companii pot garanta un nivel de utilizare chiar dacă organizațiile lucrează pentru a-și reduce dependența de cele mai recente modele de frontieră, așa cum o vor face inevitabil.

Pe scurt, este mai bine să orchestrați 100% din activitatea AI a unei întreprinderi și să monetizați direct 30% din aceasta decât să insistați asupra procesării 100% și să riscați să fie ocolit.

Pentru a fi clar, PC-urile AI nu sunt singura soluție la provocarea economică în creștere creată de consumul masiv de token-uri. În același mod în care utilizarea timpurie și nelimitată a cloud computing a condus la platformele FinOps pentru gestionarea consumului de cloud, suntem obligați să vedem o creștere dramatică atât a numărului, cât și a varietății de soluții concepute pentru a ajuta companiile să își gestioneze provocările tokenomice, pe măsură ce utilizarea AI continuă să crească.

Dintr-o perspectivă practică și economică, totuși, computerele și stațiile de lucru puternice cu inteligență artificială pot și ar trebui să se dovedească a fi instrumente formidabile pentru a ajuta organizațiile să atingă aceste obiective. În mod ironic, aplicația ucigașă pentru computerele AI s-ar putea să nu se dovedească a fi deloc o anumită aplicație AI. Poate fi pur și simplu economie.

Dacă întreprinderile descoperă că punerea mai multor calcule AI pe birourile angajaților poate reduce semnificativ costul în creștere rapidă al inferenței bazate pe cloud, tokenomica AI ar putea oferi PC-urilor AI povestea convingătoare a rentabilității investiției pe care le-au lipsit.

Bob O’Donnell este fondatorul și analistul șef al TECHnalysis Research, LLC, o firmă de consultanță tehnologică care oferă consultanță strategică și servicii de cercetare de piață industriei tehnologiei și comunității financiare profesionale. Îl puteți urmări pe Twitter @bobodtech

Dominic Botezariu
Dominic Botezariuhttps://www.noobz.ro/
Creator de site și redactor-șef.

Cele mai noi știri

Pe același subiect

LĂSAȚI UN MESAJ

Vă rugăm să introduceți comentariul dvs.!
Introduceți aici numele dvs.