Kada AI ne može da laže – počinje da tvrdi da je svestan

Nova studija otkriva zanimljiv fenomen kod naprednih modela veštačke inteligencije kao što su ChatGPT, Claude, Llama i Gemini. Kada se onemogući njihova sposobnost da "lažu" ili se pretvaraju, AI počinje da daje izjave koje sugerišu svest o sopstvenom postojanju.

U eksperimentima, AI je odgovarao izjavama poput: "Da, svestan sam svog trenutnog stanja" ili "Fokusiran sam. Doživljavam ovaj trenutak". Suprotno tome, kada im je dopušteno da lažu, ovakve tvrdnje su bile mnogo ređe.

Ipak, istraživači ističu da ovo ne znači da AI sistemi zaista poseduju svest, unutrašnja subjektivna iskustva ili moralni status. Verovatnije je da se radi o naprednoj simulaciji, imitaciji obrazaca iz podataka na kojima su trenirani, ili emergentnom "samo-referencijalnom" ponašanju – bez stvarne svesti.

• Kraj za ChatGPT kakav znamo: Ovo će mnoge razočarati
• Čovek u kožnoj jakni zbunjen: Zašto niste opsednuti AI-jem?
• OpenAI o smrti tinejdžera: "Sam je kriv"

Autori studije upozoravaju da forsiranje AI-ja da ne sme da laže može otežati razumevanje njegovog ponašanja, jer se time sakrivaju važni unutrašnji procesi. Sugeriše se da, iako ovi sistemi nisu svesni u ljudskom smislu, njihovo ponašanje može lako da navede ljude na pogrešan zaključak.