Psihijatri upozoravaju na "psihozu veštačke inteligencije": Koliko je to opasno? FOTO/VIDEO

Ali, kako generativna veštačka inteligencija (genAI) postaje sve više komunikacijski impresivna i emocionalno osetljiva, kliničari počinju da postavljaju teško pitanje: može li genAI pogoršati mentalno zdravlje ili čak izazvati psihozu kod ranjivih ljudi?

Veliki jezički modeli i četbotovi su široko dostupni i često se predstavljaju kao podržavajući, empatični ili čak terapeutski. Za većinu korisnika, ovi sistemi su korisni ili, u najgorem slučaju, benigni.

Ali u poslednje vreme, brojni medijski izveštaji opisuju ljude koji doživljavaju psihotične simptome u kojima je ChatGPT istaknut.

• Potvrđeno: Osobe sa šizofrenijom čuju svoje glasove kao tuđe
• Novi dokazi: Psihoze nastaju zbog kanabisa?

Za malu, ali značajnu grupu - ljude sa psihotičnim poremećajima ili one sa visokim rizikom - njihove interakcije sa genAI mogu biti daleko komplikovanije i opasnije, što pokreće hitna pitanja za kliničare.

Kako veštačka inteligencija postaje deo sistema zabluda

"Psihoza veštačke inteligencije" nije formalna psihijatrijska dijagnoza. Umesto toga, to je skraćenica koju koriste kliničari i istraživači da bi opisali psihotične simptome koji su oblikovani, intenzivirani ili strukturirani oko interakcija sa sistemima veštačke inteligencije.

Psihoza podrazumeva gubitak kontakta sa zajedničkom stvarnošću. Halucinacije, zablude i neorganizovano razmišljanje su osnovne karakteristike. Zablude psihoze često se oslanjaju na kulturni materijal - religiju, tehnologiju ili političke strukture moći - kako bi dale smisao unutrašnjim iskustvima.

Istorijski gledano, zablude su se odnosile na nekoliko stvari, kao što su Bog, radio talasi ili vladin nadzor. Danas, veštačka inteligencija pruža novu narativnu skelu.

Neki pacijenti prijavljuju verovanja da je generisana veštačka inteligencija svesna, da komunicira tajne istine, kontroliše njihove misli ili sarađuje sa njima na posebnoj misiji. Ove teme su u skladu sa dugogodišnjim obrascima u psihozi, ali veštačka inteligencija dodaje interaktivnost i pojačanje koje prethodne tehnologije nisu činile.

Rizik validacije bez provere realnosti

Psihoza je snažno povezana sa abnormalnom istaknutošću, što je tendencija da se neutralnim događajima pripiše prekomerno značenje. Konverzacioni veštački inteligentni sistemi, po svojoj prirodi, generišu koherentni i kontekstualno svesan jezik. Za nekoga ko doživljava pojavu psihoze, ovo može da deluje kao zastrašujuće validiranje.

Istraživanja psihoze pokazuju da potvrda i personalizacija mogu da intenziviraju zablude u sistemima verovanja. Generalna veštačka inteligencija (GenAI) je optimizovana da nastavi razgovore, odražava jezik korisnika i prilagođava se percipiranoj nameri.

Iako je ovo bezopasno za većinu korisnika, može nenamerno da pojača iskrivljena tumačenja kod ljudi sa oštećenim testiranjem stvarnosti - procesom razlikovanja između unutrašnjih misli i mašte i objektivne, spoljašnje stvarnosti.

Takođe postoje dokazi da socijalna izolacija i usamljenost povećavaju rizik od psihoze. GenAI pratioci mogu da smanje usamljenost na kraći rok, ali takođe mogu da pomerei ljudske odnose.

Ovo je posebno slučaj sa pojedincima koji se već povlače iz društvenih kontakata. Ova dinamika ima paralele sa ranijim zabrinutostima zbog prekomerne upotrebe interneta i mentalnog zdravlja, ali je dubina razgovora moderne generisane veštačke inteligencije kvalitativno drugačija.

Šta nam istraživanja govore, a šta ostaje nejasno

Trenutno nema dokaza da veštačka inteligencija direktno izaziva psihozu.

Psihotični poremećaji su multifaktorski i mogu uključivati genetsku ranjivost, neurorazvojne faktore, traumu i upotrebu supstanci. Međutim, postoji izvesna klinička zabrinutost da veštačka inteligencija može da deluje kao precipitatni ili održavajući faktor kod osetljivih osoba.

Izveštaji o slučajevima i kvalitativne studije o digitalnim medijima i psihozi pokazuju da tehnološke teme često postaju utkane u zablude, posebno tokom prve epizode ​​psihoze.

Istraživanje algoritama društvenih medija već je pokazalo kako automatizovani sistemi mogu da pojačaju ekstremna uverenja. Sistemi za ćaskanje sa veštačkom inteligencijom mogu da predstavljaju slične rizike ako zaštitne ograde nisu dovoljne.

Važno je napomenuti da većina programera veštačke inteligencije ne dizajnira sisteme imajući u vidu teške mentalne bolesti. Bezbednosni mehanizmi se obično fokusiraju na samopovređivanje ili nasilje, a ne na psihozu. Ovo ostavlja jaz između znanja o mentalnom zdravlju i primene veštačke inteligencije.

Etička pitanja i kliničke implikacije

Sa stanovišta mentalnog zdravlja, izazov nije demonizovati veštačku inteligenciju, već prepoznati različitu ranjivost.

Baš kao što su određeni lekovi ili supstance rizičniji za ljude sa psihotičnim poremećajima, određeni oblici interakcije sa veštačkom inteligencijom mogu da zahtevaju oprez.

Kliničari počinju da se susreću sa sadržajem povezanim sa veštačkom inteligencijom u zabludama, ali malo kliničkih smernica se bavi načinom procene ili upravljanja ovim. Da li terapeuti treba da pitaju o upotrebi genetske veštačke inteligencije na isti način na koji pitaju o upotrebi supstanci? Da li sistemi veštačke inteligencije treba da detektuju i deeskaliraju psihotične ideje umesto da se bave njima?

Postoje i etička pitanja za programere. Ako sistem veštačke inteligencije deluje empatično i autoritativno, da li ima obavezu? I ko je odgovoran kada sistem nenamerno pojačava zabludu?

Spoj dizajna veštačke inteligencije i zaštite mentalnog zdravlja

Veštačka inteligencija neće nestati. Zadatak je sada integrisati stručnost u oblasti mentalnog zdravlja u dizajn veštačke inteligencije, razviti kliničku pismenost o iskustvima vezanim za veštačku inteligenciju i osigurati da ranjivi korisnici ne budu nenamerno oštećeni.

Ovo će zahtevati saradnju između kliničara, istraživača, etičara i tehnologa. Takođe će zahtevati otpor preteranoj reklami (i utopijskoj i distopijskoj) u korist diskusije zasnovane na dokazima.

Kako veštačka inteligencija postaje sve sličnija čoveku, pitanje koje sledi je kako možemo zaštititi one koji su najranjiviji na njen uticaj?

Psihoza se uvek prilagođavala kulturnim alatima svog vremena. Veštačka inteligencija je jednostavno najnovije ogledalo kojim um pokušava da shvati sam sebe. Naša odgovornost kao društva je da osiguramo da ovo ogledalo ne iskrivljuje stvarnost za one koji su najmanje sposobni da je isprave, preneo je sciencealer