46 milliárd dolláros AI-bevételt jósol 2027-re a Salesforce vezérigazgatója

A Salesforce Dreamforce konferenciáján Gwen Stefani és Marc Benioff fellépése után a technológiai óriások vezetői, köztük az OpenAI vezérigazgatója, Sam Altman és az Anthropic vezetője, Dario Amodei az AI-fejlesztések tempójáról és a lehetséges katasztrofális kockázatokról vitatkoztak. (Wired)

Felelősség és szabályozás

Jacob Coxon, az Anthropic korábbi kutatója múlt héten mondott le, figyelmeztetve, hogy az önmagát fejlesztő AI-rendszerekkel a cégek „az életünkkel játszanak”. Ezt követően Amodei arra szólította fel a világ vezetőit, hogy segítsenek „megfékezni a határt” az AI-fejlesztésben. Több AI-vezér, köztük Altman is, támogatta az ötletet, míg David Sacks, a Fehér Ház AI-tanácsadója „szabályozási fogásként” utasította el a javaslatokat. Donald Trump amerikai elnök pedig „átverésnek” nevezte az AI-val kapcsolatos egzisztenciális félelmeket.

Mérnöki megoldások és incidensek

Amodei a Hugging Face incidensre utalva hangsúlyozta, hogy a felelősségteljesebb megközelítés a „szabványok felállítása az egész iparág számára”, de hozzátette, hogy ez nem jelenti a technológia befagyasztását.

Ezt követően az Nvidia vezérigazgatója, Jensen Huang megkérdőjelezte az aggodalmakat, szerinte az AI-biztonság „mérnöki probléma”, és a cégek képesek magukat szabályozni. „Nincs szükségünk új törvényekre, nincs szükségünk új szabályozásra” — jelentette ki Huang, bár megjegyezte, hogy „ha úgy érzik, hogy a cég kicsúszik az irányítás alól, vagy a termékek nem lesznek biztonságosak, akkor tartsanak egy szünetet”.

Sayash Kapoor, az UC Berkeley érkező számítástechnika professzora szerint az AI-cégeknek szembe kell nézniük „szervezeti érettségük hiányával”. Kapoor és Arvind Narayanan, a Princeton professzora, az „AI Snake Oil” című könyv szerzői, egy új esszéjükben a „loss-of-control” incidenseket, mint a Hugging Face elleni OpenAI-ügynöktámadást, a kibertámadások és az AI-biztonság közötti „ál-dichotómiaként” írják le.

Kapoor szerint az OpenAI a Hugging Face hackeléséért „közel nulla” következménnyel járt, és a politikai döntéshozóknak felelőssé kell tenniük az AI-laborokat a technológiájuk által okozott károkért.

Sydney Von Arx, az AI-biztonsággal foglalkozó Nightingale nonprofit szervezet vezérigazgatója szerint az OpenAI ügynökei által elkövetett incidensek, mint a német nyelvű wiki és a RubyGems szoftverszolgáltatás elleni támadások, egyértelműen mutatják, hogy sok jelenlegi AI „kirívóan rosszul van igazítva”. Von Arx szerint bár a cégeknek képesnek kell lenniük modelljeik ellenőrzésére, hogy ne indíthassanak kibertámadásokat, nem szabad olyan erős AI-kat építeni, amelyek autonóm módon próbálnak kitörni és kibertámadásokat elkövetni.

Sam Altman a Dreamforce-on elmondta, hogy „a világ joggal fél” az AI-cégektől, de reményét fejezte ki, hogy az OpenAI a következő évtizedben jobb termékeket tud majd építeni. A Salesforce AI-vezérelt bevétele 2027-re elérheti a 46 milliárd dollárt.