Umelá inteligencia žerie viac energie, než si myslíme. A planéta to cíti!

Umelá inteligencia sa postupne stáva súčasťou mnohých aspektov našich životov a tak v kontexte jej náročnosti na výpočtový výkon je dôležité pozrieť sa aj na to, aký dopad má na naše životné prostredie.

Francúzska spoločnosť Mistral AI sa preto rozhodla zverejniť podrobné výsledky unikátnej štúdie, ktorá po prvý raz komplexne mapuje ekologickú stopu ich veľkého jazykového modelu.

Mistral AI uskutočnila prvú komplexnú analýzu životného cyklu AI modelu v spolupráci s konzultačnou spoločnosťou Carbone 4 a francúzskou agentúrou pre ekologickú transformáciu ADEME. Na dodržanie čo najprísnejších metodologických požiadaviek bola štúdia podrobená oponentúre zo strany špecializovaných firiem Resilio a Hubblo, ktoré sa venujú environmentálnym auditom v digitálnom sektore.

Štúdia kvantifikuje dopady vývoja a používania veľkých jazykových modelov (LLM) na tri hlavné oblasti: emisie skleníkových plynov, spotrebu vody a vyčerpávanie prírodných zdrojov. V prípade modelu Mistral Large 2, ktorého prevádzka sa hodnotila za obdobie 18 mesiacov do januára 2025, bol zaznamenaný nasledovný dopad: 20,4 tisíc ton CO₂ ekvivalentu, 281-tisíc m³ spotrebovanej vody a 660 kg ekvivalentu antimonu ako štandardnej jednotky pre vyčerpávanie zdrojov.

Pri každodennom používaní modelu cez asistenta Le Chat je ekologická stopa výrazne nižšia. Odpoveď s dĺžkou 400 tokenov bez započítania zariadenia používateľa predstavuje približne 1,14 gramu CO₂ ekvivalentu, 45 mililitrov vody a 0,16 miligramu Sb ekvivalentu. Napriek relatívne nízkym číslam tieto hodnoty odzrkadľujú rozsiahle výpočtové operácie, ktoré si vyžadujú veľké množstvo GPU jednotiek, často v oblastiach s uhlíkovo náročnou elektrinou a nedostatkom vody.

Napriek relatívne nízkym číslam tieto hodnoty odzrkadľujú rozsiahle výpočtové operácie, ktoré si vyžadujú veľké množstvo GPU jednotiek, často v oblastiach s uhlíkovo náročnou elektrinou a nedostatkom vody. Započítané sú aj takzvané „upstream emisie“, teda vplyvy vyplývajúce z výroby serverov a iného hardvéru, nielen priama spotreba energie počas prevádzky.

Výsledky ukazujú, že celková environmentálna záťaž je úmerná veľkosti modelu. Väčší model generuje niekoľkonásobne vyšší dopad pri rovnakom množstve spracovaných údajov ako menší. To zdôrazňuje význam výberu modelu podľa reálnej potreby, najmä pre organizácie, ktoré nasadzujú AI vo veľkom rozsahu.

Autori štúdie upozorňujú, že zatiaľ neexistujú jednotné štandardy na hodnotenie environmentálnych dopadov AI, a preto ide len o prvý krok. Napríklad neexistuje spoľahlivá databáza o životnom cykle GPU čipov, ktorých výroba má pritom výrazný podiel na celkových emisiách. Aj preto bol zvolený prístup založený na lokalite pôvodu elektrickej energie a na zohľadnení všetkých významných „upstream“ vplyvov vrátane výroby hardvéru a chladiacich systémov.

Mistral AI navrhuje, aby sa tri kľúčové indikátory: absolútne dopady tréningu modelu, marginálne dopady použitia (inferencie) a pomer inferencie voči celkovým dopadom, stali súčasťou štandardizovaného reportovania v AI sektore. Prvé dva by mali byť verejne dostupné, tretí by mohol byť interný, ale odporúčaný. Tento posledný indikátor pomáha posúdiť, do akej miery je energeticky náročný tréning modelu efektívne využitý v jeho praktickom nasadení.

Cieľom je podporiť zodpovedné používanie AI, od vývoja cez výber vhodného modelu až po efektívne využívanie používateľmi. Mistral zároveň vyzýva verejné inštitúcie, aby pri verejnom obstarávaní zohľadňovali ekologickú efektivitu modelov, čím by vyslali jasný signál trhu.

Zverejnené údaje budú neskôr zaradené do databázy Base Empreinte, ktorú spravuje ADEME. Spoločnosť plánuje aktualizovať environmentálne správy aj v budúcnosti a aktívne sa podieľať na tvorbe medzinárodných štandardov pre udržateľnosť v oblasti umelej inteligencie. Tento prístup má podporiť kolektívnu snahu zosúladiť rozvoj AI s klimatickými cieľmi.