Afrikának saját AI-lekapcsolóra van szüksége a mobilbankok védelmében
Jane Munga, a Carnegie Endowment kutatója szerint Afrikának saját AI-rendszereket kell fejlesztenie, hogy megvédje kritikus infrastruktúráját, például a mobilbanki hálózatokat a növekvő AI-vezérelt kibertámadásoktól.
A Hugging Face júliusi behatolása során kénytelen volt egy kínai open-weight modellen elvégezni az elemzést, mert az amerikai modellek blokkolták a valós támadási kódokat tartalmazó kéréseket. (Rest of World)
Nyílt modellek és a biztonsági kockázatok
Az afrikai fejlesztők gyakran az open-weight modellekre támaszkodnak, amelyek olcsóbbak és helyben futtathatók. Ez a választás azonban kompromisszumot jelent: több kontrollt ad a saját rendszerek felett, de kevesebb védelmet nyújt, ha valaki más visszaél velük. A zárt modelleknek is megvannak a maguk költségei, és központi kontrollja korlátozhatja a védők mozgásterét.
Partnerségek és hazai megoldások
Afrikának saját kiberbiztonsági védekezést kell kiépítenie az AI-korszakra. Ez magában foglalja olyan partnerségek kialakítását, amelyek révén a kontinens technológiai fejlesztőként, nem csupán fogyasztóként jelenik meg. Fontos, hogy a rendszereket úgy tervezzék meg, hogy a felhasználó végig kontrollt gyakorolhasson, és elkerülhető legyen a függőség egyetlen beszállítótól vagy technológiai körtől. A cél az, hogy importált technológiákat használva, hazai megoldásokat fejlesszenek, amelyek robusztusak és megfelelő biztonsági intézkedésekkel vannak ellátva.
Ezek a biztonsági intézkedések kulcsfontosságúak a súlyos fennakadások elkerüléséhez. Az afrikai országok korlátozott kiberbiztonsági és incidenskezelési kapacitással rendelkeznek, és gyakran külföldi szolgáltatókra támaszkodnak. Kérdéses, hogy a kormányok és a vállalatok rendelkeznek-e a szükséges monitorozó rendszerekkel, műszaki szakértelemmel és redundanciával ahhoz, hogy felismerjék és gyorsan megfékezzék a váratlanul viselkedő autonóm rendszereket. Még a Hugging Face, egy jól finanszírozott AI-cég is tapasztalt problémákat a saját automatizált rendszereivel.
Az afrikai AI-politika fókuszának át kell helyeződnie a gyors adaptációról a reziliencia komolyabb figyelembe vételére. Ahogy a kormányok digitalizálnak és kritikus rendszereken építenek AI-t, szükségük van emberi felülbírálati mechanizmusokra, szegmentálásra, auditálhatóságra, incidenskezelésre és megbízható offline tartalékokra, amelyeket már a kezdetektől beépítenek. Ez az „off switch”, amelyre szükség lesz, ha a mobilbanki rendszerek összeomlanak, és amelynek a polgárok és platformok védelméért felelősök kezében kell lennie.