Olcsóbb AI-tokenek hajtják a keresletet, drágán tartják a GPU-bérléseket

Az AI-tokenek ára folyamatosan csökken, miközben a H100 GPU-k bérleti díjai stabilak maradnak vagy emelkednek. Ez a jelenség a Jevons-paradoxon klasszikus példája az AI-piacon, ahogy azt az Ornn, a Silicon Data és a Bloomberg adatai is mutatják – írja a The Decoder.

Az olcsóbb tokenek új lehetőségeket nyitnak az AI-ügynökök, az automatizálás és új alkalmazások előtt. Ennek eredményeként a felhasználás volumene gyorsabban növekszik, mint ahogy az egységköltségek csökkennek. Azt azonban egyelőre nem lehet tudni, hogy a kereslet mekkora része származik emberi felhasználóktól, és mekkora az autonóm AI-rendszerektől, amelyek rendkívüli sebességgel égetik a tokeneket.

A számítási kapacitás iránti keresletet mesterségesen is fel lehet fújni. Már egy szerény emberi felhasználás-növekedés is aránytalanul nagy hardverigényt generálhat. Az egész rendszer azon az alapfeltevésen nyugszik, hogy az AI-használatnak elég gyorsan kell növekednie ahhoz, hogy ellensúlyozza az eső tokenárakat. Amíg ez így van, a hardverek szűkösek és drágák maradnak.

Ha a kereslet stagnálna, az negatívan érintheti a teljes ellátási láncot, a chipgyártóktól és memóriaszállítóktól kezdve az energia-szolgáltatókon át a felhőüzemeltetőkig. A piac spirálisan zuhanhat, amire az is rávilágított, amikor az amerikai tőzsdék estek az OpenAI éves bevételével kapcsolatos, a korábbi becsléseknél alacsonyabb adatokat tartalmazó hírek hatására.