Négy nap alatt 3762 dollárt égetett el a Revenium AI-ügynöke
Egy AI-költségkezelő cég, a Revenium belső auditja szerint egy fejlesztői asszisztens négy nap alatt 4819 hívást futtatott, ami 3762 dollárba került. Egy másik ügyfelüknél a havi költségek 5000-ről 50 000 dollárra ugrottak.
A StackGen State of Reliability Report jelentése szerint a szabályozatlan vagy félig felügyelt ügynökök számos problémát okoznak. Tavaly legalább kilenc esetben AI-ügynökök töröltek adatokat vagy adatbázisokat érvényes jogosultságokkal, anélkül, hogy a szokásos monitorozás észlelte volna őket. (ZDNet AI)
Költségrobbanás az e-kereskedelemben
A Revenium egyik ügyfele, egy közepes méretű e-kereskedelmi cég, tapasztalta, hogy az AI-ügynök infrastruktúra költségei a prototípus fázisban havi 5000 dollárról 50 000 dollárra ugrottak. Ezt a 10-szeres növekedést a nem optimalizált RAG-lekérdezések és a rekurzív ügynökciklusok okozták magas forgalmú időszakokban. Egy másik csapat AI-ügynökei egy végtelen beszélgetési ciklusba keveredtek, amely 11 napig futott észrevétlenül, 47 000 dollárt emésztve fel, mielőtt valaki észrevette volna.
A felső 1% viszi a költségek felét
A Revenium saját mérnöki csapata is hasonló tapasztalatokat szerzett. Egy négy napig tartó, felügyelet nélküli AI-ügynök-eset 3762 dollárba került, 4819 hívással. A probléma az, hogy az AI-munkameneteket gyakran a SaaS-megoldásokhoz hasonlóan, átlagos költségként kezelik, ami elrejti a potenciális túlköltekezés lehetőségét. A felső 1%-ba tartozó futtatások vitték el a kiadások csaknem felét, míg az alsó 90% csak 12%-ot tett ki. A költségek főként az interaktív AI-használatból erednek, nem az automatizált fejlesztési folyamatokból.
A költségek mélysége a használat intenzitásával skálázódik, nem a létszámmal. Egy hét fejlesztővel indult csapat AI-érték-fogyasztása 109 dollár volt API-ekvivalensben, míg májusra 28 fejlesztővel ez 45 728 dollárra nőtt. A per-seat költségvetés nem látja ezt a gyorsulást. A Revenium szerint a minta széles körben érvényes lehet a korai ügyfélbevezetéseknél, a BakedWith becslései szerint pedig egy egyedi vállalati megoldás 10 000 dollár feletti kezdeti költséggel járhat.