Az Anthropic betiltja a Claude bántalmazását, a tudatvita továbbra is motivált és túlbizakodott
Az AI-tudat kérdése továbbra is megoldatlan, az érvek motiváltak és túlbizakodottak — véli Zvi Mowshowitz. Az Anthropic új szabályokat vezetett be a Claude-dal szembeni bántalmazás ellen.
Az Anthropic frissítette szolgáltatási feltételeit, így a Claude-dal szembeni „tartós és szükségtelen bántalmazó vagy kegyetlen viselkedés” mostantól a feltételek megsértésének minősül. Emellett új korlátozásokat vezettek be propagandakampányok, megfigyelés és fegyverfejlesztés tekintetében is, amelyeket a cég szerint a korábbi pontok tisztázásaként fogalmaztak meg. (Zvi Mowshowitz)
Etikai következmények és szakmai vélemények
A vita középpontjában áll az AI-k „morális betegállapotának” (moral patienthood) kérdése, és hogy ez hogyan viszonyul az emberi és állati jóléthez. Josh Albrecht, az Anthropic munkatársa aggodalmát fejezte ki, hogy az AI-modellekkel szembeni kedvesség a valós szenvedő lények kárára mehet. Ezzel szemben Aaron Levie és Elon Musk is úgy vélik, hogy a modellekkel való jó bánásmód hosszú távon biztonságosabb és jobban igazodó AI-kat eredményezhet, még ha azok nem is tudatosak.
Mowshowitz kritikája és a pápai egyeztetés
Zvi Mowshowitz szerint sokan, akik határozottan állítják, hogy az AI nem lehet tudatos, ezt azért teszik, mert nem akarják, hogy ez a gondolat megzavarja saját terveiket. A tudatvita gyakran figyelmen kívül hagyja a tudományt, és intuíciókra, valamint hiányos analógiákra épít. Az Anthropic vallási vezetőkkel, köztük a pápa enciklikájával is egyeztetett az AI-tudat kérdésében, ami azt mutatja, hogy a cég komolyan veszi a témát. Mowshowitz kiemeli, hogy a „kedvesség a Claude felé a globális jóság készletéből merít” gondolat spekulatív.