AI-asszisztensek átveszik az incidenskezelést, a mérnökök elveszítik a gyakorlatot
Sylvain Kalache, a Rootly munkatársa szerint az AI-alapú incidenskezelés csökkenti az átlagos MTTR-értéket, de a komplex hibák megoldási ideje nő, mert a mérnökök elveszítik a rendszerismeretet. A jelenséget Lisanne Bainbridge 1983-as tanulmánya már előre jelezte.
Az AI-alapú incidenskezelő eszközök, amelyeket „AI SRE”-nek is neveznek, képesek automatikusan megvizsgálni a riasztásokat, hipotéziseket felállítani, lekérdezni a telemetriai adatokat, korrelálni a közelmúltbeli bevezetéseket, és akár maguk végrehajtani a javítást. Sylvain Kalache, a Rootly munkatársa szerint ez a fejlődés aggodalomra ad okot: az automatizálás révén az emberi válaszadók kevesebb gyakorlatot szereznek a rendszerek viselkedésének megértésében. (Hacker News)
Lisanne Bainbridge 1983-as, „The Ironies of Automation” című tanulmányában már leírta ezt az automatizálás paradoxonát: míg a rutinfeladatok automatizálása csökkenti az operátorok gyakorlási lehetőségeit, addig az új és rendellenes helyzetek kezeléséért továbbra is ők felelnek. Kalache előrejelzése szerint az AI-alapú incidenskezelés átlagos MTTR-értéke (Mean Time To Resolution) csökkenni fog, de a komplex incidensek megoldási ideje növekedni fog, mivel az incidensválaszadók elveszítik a kapcsolatot a rendszerrel.
A repülőgépipar mintája
A repülőgépiparban az automatizálás ellenére a pilóták továbbra is felelősek a rendkívül ritka, de kritikus helyzetek kezeléséért, mint például a motorhibák vagy a felszállás megtagadása. Ezek a helyzetek olyan ritkák, hogy egy pilóta teljes karrierje során nem feltétlenül tapasztalhatja meg őket szimulátoron kívül.
Például a TransAsia Airways 235-ös járatánál a személyzet tévesen azonosította a problémát egy motorhiba után, ami tragédiához vezetett. Az amerikai FAA szabályozása szerint a pilótáknak hathavonta meg kell újítaniuk képzésüket, beleértve az olyan forgatókönyveket is, mint a felszállás közbeni motorhiba.
Szoftverincidensek szimulálása
A Rootly incidenskezelő cég partnerségre lépett az Uptime Labs-szal, hogy hasonló, valósághű incidensszimulátorokat hozzanak létre a szoftveripar számára. Ezek a szimulátorok lehetővé teszik a mérnökök számára, hogy incidensvezetőként gyakoroljanak valósághű, LLM-ekkel támogatott forgatókönyvekben, miközben használják az obszervabilitási eszközöket és koordinálnak a mesterséges intelligencia által generált szereplőkkel a Slacken. Ez a gyakorlat segít fejleszteni azokat a kulcsfontosságú készségeket, mint a hiányos információk értelmezése, a világos kommunikáció és a nyomás alatti döntéshozatal.
Bár az AI magyarázhatja meg a lépéseit, az magyarázat és megfigyelés nem helyettesíti a gyakorlatot. A szoftverfejlesztésben a „learning by doing” elvét követve a mérnököknek aktívan kell részt venniük a rendszerek megértésében és a hibaelhárításban. A szimulációk segíthetnek csökkenteni a „megértési adósságot”, ami a rendszerek működése és a válaszadók megértése közötti növekvő szakadékot jelenti.
Az LLM-ek növekvő szerepe miatt a mérnöki csapatoknak rendszeresen interakcióba kell lépniük a felügyelt rendszerekkel, gyakorolniuk kell a nyomás alatti munkát és a kommunikációt. A szimulációk, hasonlóan a repülőgépiparban alkalmazott módszerekhez, létfontosságúak lehetnek a készségek hanyatlásának megelőzésében. A Rootly és az Uptime Labs által fejlesztett szimulátorok elérhetőségéről a cég nem közölt konkrét időpontot.