AI-ügynökök 600-szor több energiát fogyasztanak, mint egy egyszerű chat-lekérdezés
Egy klímakutató, Zeke Hausfather új elemzése szerint az AI-ügynökök nagyjából 600-szor több energiát használnak fel lekérdezésenként, mint a Google és az OpenAI által közölt átlagos chat-lekérdezések.
Az AI-ügynökök energiafogyasztása jóval meghaladhatja a Google és az OpenAI által közölt alacsony értékeket – derül ki Zeke Hausfather klímakutató új elemzéséből. A kutató a Claude Code nevű programozási ügynök nyolc hetes használatát vizsgálta, amely során mintegy 1100 bemenet több mint 14 000 modellhívást és 3,2 milliárd tokent eredményezett, körülbelül 170 kilowattóra (kWh) villamos energiát fogyasztva. Ez lekérdezésenként körülbelül 150 Wh, ami egy évre vetítve egy elektromos ruhaszárító egész éves működésével egyenértékű szén-dioxid-kibocsátással járhat. Hausfather szerint az adatközpontok tiszta energiára való átállítása a legkritikusabb tényező a kibocsátások csökkentésében. (The Decoder)
Az átlagos chat-lekérdezés félrevezető
A Google és az OpenAI korábban alacsony energiafogyasztási adatokat közölt lekérdezésenként. A Google szerint egy átlagos Gemini szöveges prompt mindössze 0,24 Wh-t fogyaszt, míg az OpenAI vezérigazgatója, Sam Altman szerint egy átlagos ChatGPT lekérdezés 0,34 Wh-t igényel. Ezek az adatok azonban nem veszik figyelembe a valós használati tényezőket, mint például a több tokent generáló modellek, a multimodális feldolgozás, az ügynökrendszerek vagy a kógenerálás. Hausfather elemzése rávilágít, hogy ezek a számok drasztikusan alábecsülik a valós energiafelhasználást.
3,2 milliárd token nyolc hét alatt
Hausfather részletesen követte nyomon saját használatát nyolc héten keresztül. A Claude Code minden munkamenetről naplót vezetett, beleértve az API által jelentett pontos tokenszámokat minden modellhívásnál. Az általa bevitt 1138 prompt több mint 14 000 modellhívást indított el, átlagosan tizenkettőt promptonként. Minden prompt átlagosan 2,9 millió tokent dolgozott fel, összehasonlításképpen egy tipikus chat-csere ezer tokent futtat. Ezek közül a 3,2 milliárd token 96 százaléka gyorsítótár-olvasás (cache read) volt, mivel az ügynök minden lépésnél újraolvasta a teljes felhalmozott kontextust. A modell kimenete, vagyis a felhasználó által látott szöveg, mindössze az összes feldolgozott token 0,4 százalékát tette ki. Becslése szerint ez összesen mintegy 170 kWh adatközponti villamos energiát jelentett nyolc hét alatt, 70 és 330 kWh közötti bizonytalansági tartományban.
Egy nap alatt több energia, mint két hűtőszekrény
Hausfather átlagos Claude Code munkamenete körülbelül 0,6 kWh-t fogyasztott, ami ötvenszerese egy telefon töltéséhez szükséges energiának. Az átlagos napi használata elérte a 3,0 kWh-t (1,2–5,9 kWh tartományban), ami több, mint két hűtőszekrény napi fogyasztása. Legintenzívebb napján, amikor több párhuzamos ügynök dolgozott egy nagyméretű geoadat-elemzésen, becslése szerint 11 kWh-t használt fel. Ez több mint egyharmada egy átlagos amerikai háztartás napi energiafogyasztásának.
Tiszta energia a kulcs a kibocsátások csökkentéséhez
Hausfather nem a személyes korlátozást szorgalmazza, szerinte a nagy felhasználók visszafogása nem fogja jelentősen csökkenteni a görbéket. Ugyanakkor a kisebb modellek feladatokra való irányítása értelmes lépés, mivel ezek tokenenként ötször-hétszer kevesebb energiát használnak, mint a legfejlettebb modellek. A legnagyobb hatást azonban az elektromos áram szén-dioxid-intenzitásának csökkentése jelenti. Ha ugyanaz a munkaterhelés nagyrészt tiszta erőforrásból származó árammal futna, a szén-dioxid-lábnyom körülbelül 90 százalékkal csökkenne. Az amerikai adatközpontok tervezett teljesítménytermelésének közel háromnegyede földgázra fut, ami Hausfather szerint lehetőséget kínál. Az AI-cégek hatalmas tőkével és szokatlan sürgősséggel rendelkeznek; ha ez a pénz tiszta energiába, hálózatbővítésbe és fejlett technológiákba áramlik, az AI-boom tisztábbá teheti a hálózatot.