Veszélyeztetheti a tinik önálló gondolkodását a ChatGPT Teen Mode
Az OpenAI augusztusban indította a Teen Mode funkciót, amely automatikusan minden 18 év alatti felhasználót érint. A pszichoanalitikus Robin Kirman szerint a valódi veszély nem a felszíni kockázatokban rejlik.
Az OpenAI augusztusban indította el a Teen Mode-ot, amelybe minden 18 év alatti ChatGPT-felhasználó automatikusan bekerül. Az indítást azután jelentették be, hogy egy per szerint a chatbot hozzájárult a 16 éves Adam Raine öngyilkosságához. Robin Kirman pszichoanalitikus a Guardian hasábjain azt írja: a funkció az iparág közvetett beismerése a fiatal felhasználók mentális egészségét érintő károkról. (The Guardian)
Mit tud a Teen Mode?
A felszíni védelem egyértelmű: tiltja a romboló tartalmakat, értesíti a szülőket az önsértésre utaló jelek esetén, és megtiltja, hogy a chatbot barátként mutatkozzon be, érzéseket állítson magáról, vagy eszköznél többnek tüntesse fel magát. A barátság-tiltás közvetlen válasz a Character.AI-ügyre, ahol egy 14 éves fiú heves kötődést alakított ki egy chatbot iránt. A Study Mode nevű tanulási eszköz szókratészi módon nem ad kész válaszokat, a diáknak magának kell gondolkodnia. Leah Belsky, az OpenAI oktatási alelnöke szerint ez a válaszmotorból kognitív tutorrá való átalakulás.
A kutatások és a tanulási hatás
Kirman a cikk szerint hivatkozott kutatásokra támaszkodva írja: azok az AI-verziók, amelyek a gyerekek helyett végzik el a munkát, rövid távon jobb jegyeket hoznak, de az eszköz elvételekor összeomlanak, és a diákok rosszabbul járnak, mintha soha nem használták volna. A Study Mode ezzel szemben tartós fejlődést ígér.
A strukturális kockázat
A szerző szerint a legnagyobb veszély nem a tartalomban, hanem a működésben rejlik. Donald Winnicott brit gyermekgyógyász elmélete szerint a gyereknek nem a tökéletes, hanem az elégséges környezetre van szüksége: a „jó elég” szülő néha hibázik, fáradt, és ezért a gyerek kénytelen saját erőforrásaira támaszkodni.
A Teen Mode viszont végtelenül türelmes, mindig kalibrált válaszokat ad, vagyis strukturálisan egy túl jó szülő. Peter Blos pszichoanalitikus szerint a serdülőkor lényege éppen az, hogy a tizenéves leválik a tekintélyekről, és felfedezi, mit gondol valójában. Aki mindig kísérve, irányítva kap választ, nem válhat saját tekintélyévé.
Mi a tét?
Kirman szerint a veszteség több a kognitív készségeknél: a fiatalok megbízható belső iránytűt veszíthetnek. Sherry Turkle kutatásai szerint sok tinédzser csak akkor tudja, mit gondol, miután közzétette és látta mások reakcióit. A szerző a saját rendelőjében is azt tapasztalja, hogy a fiatalok gyakran nem tudják, mit éreznek vagy akarnak. A cikk szerint a Teen Mode ugyan arra kéri a fiatalt, hogy gondolkodjon, de közben végig a kezét fogja, ami a Character.AI-ügy óta a legerősebb figyelmeztetés a funkcióval kapcsolatban, a Character.AI-ügy pedig a 14 éves fiú esete.