Măsurarea impactului planetar al modelelor de limbaj mare
Ce s -a întâmplat? Mistral AI, o acțiune bazată pe Paris, axată pe dezvoltarea modelelor de limbaj mare cu greutate deschisă, open-source, contribuie acum la discursul AI cu o analiză cuprinzătoare a ciclului de viață a unuia dintre modelele sale-ghidat de aceleași principii de deschidere care definesc activitatea sa.
Mistral a publicat recent o analiză a impactului asupra mediului al unuia dintre modelele sale de limbaj mare. Pe măsură ce chatbot-urile și alte tehnologii alimentate de AI devin din ce în ce mai încorporate în economia globală, Mistral a subliniat importanța înțelegerii-sau cel puțin estimarea-amprenta de mediu a acestor sisteme. Impactul, a avertizat compania, poate fi substanțial.
Pentru a efectua studiul, Mistral s -a asociat cu consultanța de sustenabilitate Carbone 4 și Agenția Franceză de Tranziție Ecologică. Rezultatele au fost, de asemenea, revizuite de la egal la egal de către firmele de consultanță pentru mediu Resilio și Hubblo. Analiza s -a concentrat pe ciclul de viață complet al modelului Mistral AI mare 2, evaluându -și impactul pe trei domenii cheie: emisiile de gaze cu efect de seră, utilizarea apei și epuizarea și consumul de materiale.
În mod surprinzător, studiul confirmă faptul că cele mai ecologice faze de impozitare a ciclului de viață al unui model AI sunt instruirea și inferența. Potrivit Mistral, 85,5 la sută din emisiile totale de GES ale modelului și 91 la sută din consumul de apă au avut loc în timpul dezvoltării modelului și interacțiunii utilizatorilor.
În ianuarie 2025, după 18 luni de funcționare, modelul mare al Mistral 2 a generat 20,4 kilotoni de emisii de CO₂ și a consumat 281.000 de metri cubi de apă. Impactul marginal al inferenței-măsurat de un utilizator care a solicitat chatbot-ul „LE Chat” pentru un răspuns de 400 de tocuri-a fost estimat la 1,14 grame de CO₂ și 45 de mililitri de apă.
Potrivit Mistral, acest lucru este aproximativ echivalent cu emisiile de gaze cu efect de seră generate de vizionarea unui videoclip de streaming timp de 10 secunde în SUA. În termeni mai simpli, o singură interogare de chatbot nu va topi Antarctica, dar milioane sau miliarde de utilizatori care interacționează cu aceste sisteme pe parcursul săptămâni și luni vor contribui fără îndoială la provocările de mediu ale planetei.
Mistral recunoaște mai multe limitări în studiul său, în special dificultatea de a cuantifica cu exactitate degradarea hardware -ului cauzată de sarcinile de lucru LLM pentru GPU și infrastructura centrului de date. Chiar și așa, cifrele raportate se aliniază îndeaproape cu estimările impactului asupra mediului din partea altor cercetări și instituții.
Compania franceză AI intenționează să lanseze versiuni actualizate ale acestui raport de mediu în viitor și solicită o mai mare transparență în industria AI. Scopul său declarat este de a ajuta la conducerea sectorului spre alinierea cu obiectivele climatice globale, deși observă că administrația Trump urmărește în prezent politici care contravine acestui obiectiv.
