Robodebt-botrányra figyelmeztet az ausztrál kormányt a központi thinktank
A „Computer Says No” című jelentés nyolc konkrét reformot javasol az automatizált döntéshozatali rendszerek átláthatóságának biztosítása érdekében.
Ausztrália „szunnyadva halad” egy újabb robodebt-botrány felé az algoritmusok és az AI átláthatatlan használata miatt – figyelmeztet a Centre for Public Integrity (CPI) független thinktank. A szervezet „Computer Says No” című jelentése szerint sürgős reformokra van szükség az automatizált döntéshozatal (ADM) kormányzati alkalmazásában. (The Guardian)
Az IAT algoritmus és az idősek helyzete
A jelentés különösen az idősotthoni támogatások meghatározására használt integrált értékelő eszköz (IAT) algoritmikus működésére hívja fel a figyelmet. A CPI szerint az IAT „rutinnal alulbecsüli” az idősek szükségleteit, miközben az idősellátási értékelőket kormányzati tiltás köti abban, hogy felülbírálják az algoritmikus döntéseket. „Úgy érezzük, mintha szunnyadva haladnánk egy újabb robodebt-forgatókönyv felé” – nyilatkozta Dr. Catherine Williams, a CPI vezérigazgatója.
Kormányzati és parlamenti reakciók
Michelle Rowland ausztrál legfőbb ügyész tájékoztatása szerint a legfőbb ügyész hivatala jelenleg egy ADM-keretrendszer kidolgozásán dolgozik, amelynek nyilvános konzultációja 2025 januárjában zárul. Rowland szerint a keretrendszer megvalósítja majd a robodebt királyi bizottság ajánlásait, javítja a döntések pontosságát és következetességét, valamint biztosítja a megfelelő emberi felügyeletet.
Kate Chaney független parlamenti képviselő szeptemberben egy magánjavaslatot terjesztett be, amely az első törvényileg szabályozott, kötelező ADM-keretrendszert hozná létre a kormányzati használatra. A legfőbb ügyész hivatala által lefolytatott konzultáció már közel két éve befejeződött.