Átláthatóságot ír elő az Egyesült Királyság az állami AI-rendszerekre — új szabványt vezetnek be

Az ATRS, amelyet Joy Aston, a brit kormány Tudományos, Innovációs és Technológiai Minisztériumának Adat- és AI-etikai vezetője írt le, egy strukturált sablont és nyilvános adattárat biztosít az algoritmusok működésének, céljának és a polgárokat érintő döntésekre gyakorolt hatásának dokumentálására. A 2021 novemberében kiadott szabvány bevezetését 2025-ben tették kötelezővé a központi kormányzati osztályok és az általuk felügyelt testületek számára. Márciusig 125 ATRS-rekordot publikáltak, továbbiak feldolgozása folyamatban van. (OECD.AI Policy Observatory)

Nemzetközi figyelem és a GPAI szerepe

A szabvány nemzetközi figyelmet kapott; az OECD világvezető kezdeményezésként azonosította, és szerepeltette az Innovatív Közszolgálati Obszervatóriumában. Az Európai Unióban az észt kormány lefordította és pilotként alkalmazta az ATRS-t a brit-észt technológiai partnerség részeként. A GPAI projekt keretében Juan David Gutierrez vezetésével, az Universidad de los Andes és a CEIMIA támogatásával globális legjobb gyakorlatokat és esettanulmányokat vizsgáltak meg, beleértve az Egyesült Királyság, Chile és az EU tapasztalatait. A projekt feltárta, miért törekednek az országok ilyen átláthatósági kezdeményezésekre, és hogyan segíthet a nyíltság a viták elkerülésében és a közbizalom javításában.

Kapcsolódó: EU AI Act korlátai

Szükségesség: botrányok és átláthatatlan rendszerek

Az ATRS szükségességét jól illusztrálják olyan múltbeli esetek, mint a 2020-as brit iskolai vizsgáztató algoritmus botránya, amely aránytalanul előnyben részesítette a magániskolás diákokat. Ausztráliában az úgynevezett 'Robodebt' program hamis adósságokat generált, Dániában pedig a jóléti ügynökség algoritmusai kapcsán merültek fel tömeges megfigyelés, diszkrimináció és szociális pontozás gyanúi. Ezek a problémák gyakran az algoritmusok átláthatatlanságán alapultak, és proaktív információmegosztással, valamint a közvéleménnyel és a civil társadalommal való együttműködéssel csökkenthetők lettek volna a fejlesztés és bevezetés során.

Kapcsolódó: közérdekű AI-infrastruktúra

Biztonság és átláthatóság egyensúlya

A közszférában a felelős technológiahasználat gyakran kompromisszumokat kíván az átláthatóság és a biztonság között, különösen a geopolitikai instabilitás idején. Az algoritmusok működésének és a közéletre gyakorolt hatásának megértése globális fókusz. Az India AI Impact Summit és a G7 is kiemelt témaként kezelte a biztonságos és megbízható AI-t, amelynek kulcseleme az átláthatóság. Az ATRS fejlődésével a brit kormány folyamatosan kutatja, hogyan javítható a folyamat, hogyan egyensúlyozható a biztonsági és kiberbiztonsági szempontokkal, miközben maximalizálják az átláthatóságot a polgárok védelme érdekében.

Kapcsolódó: OECD AI-kezdeményezések