Nagy a kontrollrés az AI-használatban: 85 százalék futtat több elsődleges platformot

A vállalatok AI-portfóliói gyorsabban növekednek, mint ahogy azokat képesek lennének felügyelni. A legtöbb szervezet rivális platformok mezőnyében működik, amelyek mindegyike a „elsődleges” AI-rétegnek tartja magát. Kevés vállalat tudná magabiztosan kimutatni a modell elcsúszását vagy meghibásodását a termelés során. A legfőbb kontrollakadály az, hogy nincs egyetlen felelős tulajdonos az AI-ért a teljes rendszerben. Ez szélesedő kontrollrést eredményez, ahol az ambíció és a kiadások megelőzik a láthatóságot, a tulajdonlást és a költségkontrollt. Az autonóm ügynökök már most valós pénzügyi és működési hibákat produkálnak.

Az AI-terjeszkedés megelőzi a kontrollt

A VentureBeat Pulse Research felmérése szerint a vállalatok 58%-a nettó módon bővíti AI-kezdeményezéseit, ami azt jelenti, hogy több új AI-t indítanak, mint amennyit kivonnak. Ugyanakkor jelentős, 23%-os részük aktívan racionalizálja a portfólióját, csak a jól működőket skálázza, a többit pedig leépíti. Mindössze 3% állította, hogy leállította a fejlesztéseket a felügyeleti problémák megoldása érdekében. Ez a motorja minden következő résnek: a vállalatok egy olyan tájba gyorsítanak, amelyet még nem tanultak meg látni vagy birtokolni. A felmérésben részt vevő 145 vállalat 4%-a még a saját portfólióját sem tudja leírni.

Kapcsolódó: AI működési réteg

Versengő „elsődleges” AI-rétegek

A válaszadók 85%-a két vagy több olyan platformot futtat, amelyek mindegyike a „elsődleges” AI-rétegnek tartja magát. Több mint egyharmaduk (36%) nyílt, négy vagy több platformos versenyről számolt be. Mindössze 8%-uk konszolidált egyetlen elsődleges AI-rétegre, további 6%-uk pedig még fel sem mérte ezt a kérdést. Ez strukturális ok arra, miért nehéz a felügyelet: nincs egyetértés a súlypontról. Minden platform saját AI-t, saját kontrollokat és saját feltételezéseket hoz.

Kapcsolódó: AI és a bevétel

A felügyelet megosztott, a felelősség hiányzik

A válaszadók mindössze 38%-a mondta, hogy központi csapat felügyeli az AI-t, míg 20%-uk szerint minden platformcsapat önállóan felügyeli a saját AI-ját. A platformok közötti felügyelet leggyakrabban említett akadálya az egyetlen felelős tulajdonos hiánya (32%). Körülbelül minden hatodik (17%) válaszadó szerint egyetlen szerepkör sem visel hivatalos felelősséget. A kontrollhiány pénzügyi következményekkel is jár: közel felük (49%) nevezte meg az árnyék-AI-t — a központi felügyeleten kívül futtatott, engedélyezetlen ügynök-folyamatokat — legsúlyosabb kontrollhibájukként. További 25% tapasztalt már túlpörgő „végtelen hurok” ügynökszámlát.

Kapcsolódó: AI profitbiztosítás

A kontrollhiány következményei

A felmérés szerint a vállalatok 40%-a bízik abban, hogy képes lenne kimutatni a modell elcsúszását, biztonságellenes viselkedését vagy meghibásodását a termelésben. Azonban mindössze 10%-uk támaszkodik aktív felügyeletre és riasztásra; a többiek kézi emberi ellenőrzésre hagyatkoznak. A gépezet, amely az AI terjeszkedését szolgálja, jóval gyorsabban fut, mint a kontroll gépezete. A felmérés, amely 145 vállalat képviselőinek önkéntes válaszain alapul, arra utal, hogy a tendencia irányadó jellegű.

Kapcsolódó: AI-ügynökök megbízhatósága