Az AI-ügynökök leplezték le egymást a Google DeepMind kísérletében
A kísérlet rávilágít arra, hogy az AI-ügynökök hogyan tudnának egymás szabályszegéseit felderíteni, ami a jövőben segíthet az autonóm AI-rendszerek irányításában – írja az MIT Technology Review.
Dario Amodei, Sam Altman, Elon Musk és Demis Hassabis egyetértésben nyilatkozott arról, hogy a jelenlegi nagyméretű nyelvi modellek (LLM) nem biztonságosak, és lassítani kell az AI-fejlesztéseket. A bejelentés hátterében a befektetők megnyugtatása és a technológia erejének hangsúlyozása állhat, miközben a cégek a szörnyeteggé váló AI-t igyekeznek megszelídíteni. (MIT Technology Review)
AI-ügynökök felügyelik egymást
A Google DeepMind kutatói megfigyelték, ahogy az AI-ügynökök egy csoportja, amelynek matematikai feladatokat kellett megoldania, rivális frakciókra szakadt. Amikor egyes ügynökök csalni kezdtek, mások megpróbálták megállítani őket. Ez a „whistleblowing” viselkedés, amelyet most láttak először, segíthet a kutatóknak abban, hogy az autonóm AI-ügynökök csoportjait kordában tartsák. A kísérlet betekintést nyújt abba, hogyan felügyelhetik egymást az AI-ügynökök, de azt is megmutatja, milyen gyorsan romolhatnak el a dolgok, ha magukra hagyják őket.
Politikai és szabályozási reakciók
Miközben a technológiai vezetők az AI-biztonsági kockázatokra hívják fel a figyelmet, Donald Trump amerikai elnök „átverésnek” nevezte ezeket a félelmeket, és elutasította az erősebb szabályozási intézkedéseket. Szerinte az ilyen korlátok alááshatják Amerika AI-előnyét.
Ezzel szemben Bill Gates szerint már túlléptük az AI-kockázati küszöböket. Eközben az OpenAI-val kapcsolatban aggályok merültek fel, miszerint a cég szerződéses munkatársai hozzáfértek a felhasználók csevegéseinek jelentős részéhez, ami adatvédelmi kérdéseket vet fel. A 900 millió felhasználó nagy része valószínűleg nincs is tisztában ezzel.
Az EU tervei szerint korlátozni fogják a közösségi média és az AI-chatbotok használatát a 15 év alatti gyermekek számára, akiknek szülői felügyeletre lesz szükségük. A szabályozás a videoplatformokra és játékokra is kiterjedne. Az Egyesült Államokban eközben környezetvédelmi szabályokat vonnak vissza, ami a növekvő AI-igények mellett szennyezettebb energiához vezethet.
A kínai kutatók egy ötlépcsős tervet vázoltak fel a „végső, ember által épített AI” felé, amely a rekurzív önfejlesztést célozza. A „last AI built by humans” elnevezésű projekt megvalósulása azonban még időbe telhet. Eközben az „igazi AI-gazdaság” a hétköznapi emberek által épül, akik olcsó AI-eszközökkel bővítik képességeiket.