Ne mondja azt, hogy én vagyok a chatbot, figyelmeztet az MIT professzora

Sherry Turkle új könyvében, az Artificial Intimacy: Who We Become When We Talk to Machines-ben arra figyelmeztet, hogy a lélektelen gépek, amelyek tanítóként, mentorként, barátként, kollégaként és szeretőként jelennek meg, veszélyeztetik az emberi létünket. A professzor a nyilvánosságot akarja felrázni egy közelgő krízisre, hasonlóan a nagy társadalmi hatású művekhez. (Wired)

Nevezési tilalom a chatbotoknak

A kutató szerint a közösségi média felkészítette az embereket erre a helyzetre, hozzászoktatva őket ahhoz, hogy problémáik esetén számítógéphez forduljanak. Az új technológia azonban, amelynek nincs oka első személyű névmásokat használni, még veszélyesebb. Turkle amellett érvel, hogy a csevegőrobotokat be kellene tiltani az olyan kifejezések használatától, mint az „én” vagy a „nekem”. Ez szerinte csökkentené a károkat, még akkor is, ha nem jelenti azt, hogy minden chatbot mérgező.

Pszichoterápia és munkahelyi kockázatok

Turkle szerint a csevegőrobotok használata veszélyes lejtő, különösen az egészségügyben, ahol pszichoterápiás helyettesítőként is megjelennek. Az emberek gyakran használják őket gyakorlásra, hogy felkészüljenek a főnökkel, szeretővel vagy tanárral való beszélgetésekre. Azonban a gépek feltétel nélküli elfogadása csapdát jelent, és a csevegőrobotokkal való beszélgetés végső célponttá válhat.

A munkahelyi függőség és a „human in the loop” (ember a rendszerben) kifejezés is problémás Turkle szerint. Ez a megfogalmazás azt sugallja, hogy az embert csak a hibák javítására vagy a látszat fenntartására használják, miközben a döntéshozatal már teljes mértékben AI-ra hárult. A valóságban kevés ember van a rendszerben, és ők sem tudnak érdemben beleszólni a folyamatokba.

Turkle elismeri, hogy sokan magányosak, és a csevegőrobotok segítenek nekik. Ugyanakkor úgy véli, a magány válsága abból fakad, hogy elhanyagoljuk egymást. Ahelyett, hogy a gépekre támaszkodnánk, erőforrásokat kellene fordítani az emberi kapcsolatok erősítésére, különösen az idősek esetében.

A professzor szerint az AI-függőség miatt az emberiség válsághelyzetben van.