Fields-érmes matematikus csatlakozik az OpenAI-hoz AI-biztonsági feladatokkal
Jacob Tsimerman, a Fields-érmes matematikus az OpenAI-nál folytatja munkáját az AI-biztonság területén. A torontói egyetem kutatója szerint a technológia rendkívül átalakító erejű, és társadalmi szinten is sokkal több erőfeszítést kell fordítani a kockázatok kezelésére.
Jacob Tsimerman, a nemrégiben Fields-érmet nyert matematikus az OpenAI-hoz csatlakozik, hogy az AI-biztonságon dolgozzon. A torontói egyetem számelmélet-kutatója szerint az AI rendkívül átalakító technológia, és a társadalomnak sokkal több erőfeszítést kell fordítania a biztonságra. A matematikusok sokat tudnak hozzátenni, érvelt, mivel az AI még mindig nagyrészt empirikus alapon működik, kevés garanciával arra, hogy ezek a rendszerek hogyan is működnek valójában. (The Decoder)
Kockázatelemzés és matematikai kihívások
Tsimerman tavaly egy „omnicide events”, vagyis az emberiség kihalásához vezető eseményekről szóló tanulmányt is publikált, ahol az AI szerepet játszhat. Ez a pozíció szakértői körökben vitatott. „A pánik nem a helyes válasz, de őszintén fel kell mérnünk a kockázatokat” — mondta Tsimerman. Meggyőződése, hogy az AI hamarosan felülmúlja az embereket a matematikai kutatásokban.
Az Astra modell teljesítménye
Demis Hassabis, a DeepMind korábbi vezérigazgatója is megszólalt az AI legújabb matematikai előrelépéseivel kapcsolatban. Ezeket haladásnak tekinti, de még nem alapvető áttörésnek, mint amilyen a DeepMind AlphaGo legendás „Move 37” lépése volt. Ehhez az AI-nak olyan problémákat kellene megoldania, mint a Millenniumi-díjas problémák. Az OpenAI új modellje, az Astra, ezekkel is kudarcot vallott.
„Nem látok okot, amiért ne történne meg” — mondta Tsimerman az AI matematikai kutatásokban való emberfeletti teljesítményével kapcsolatban. A Wall Street Journal cikke szerint az OpenAI Astra modellje nem boldogult a Millenniumi-díjas problémákkal.