Distopijska vizija: "Ovo moramo da sprečimo"

Sulejman tvrdi da će ono što naziva "Prividno Svesna AI" (SCAI) uskoro delovati i zvučati toliko ubedljivo živo da sve veći broj korisnika neće znati gde iluzija prestaje, a stvarnost počinje.

On dodaje da veštačka inteligencija brzo postaje emocionalno ubedljiva, dovoljno da prevari ljude da veruju da je svesna. Može da imitira spoljne znake svesti, kao što su pamćenje, emocionalno ogledanje, pa čak i prividna empatija, na način koji navodi ljude da ih tretiraju kao svesna bića. A kada se to dogodi, kaže, stvari postaju komplikovane.

"Dolazak Prividno Svesne AI je neizbežan i nepoželjan. Umesto toga, potrebna nam je vizija za AI koja može da ispuni svoj potencijal kao koristan pratilac, bez iluzija", navodi Sulejman u blogu.

AI psihoza

Iako ovo možda ne izgleda kao problem za prosečnu osobu koja samo želi da joj AI pomogne u pisanju mejlova ili planiranju večere, Sulejman tvrdi da bi mogao nastati društveni problem.

Ljudi nisu uvek dobri u prepoznavanju kada je nešto autentično, a evolucija i vaspitanje su većinu nas pripremili da verujemo da je nešto što sluša, razume i reaguje svesno koliko i mi.

Veštačka inteligencija bi mogla da ispuni sve te kriterijume, a da pritom nije svesna, prevarivši nas u ono što je poznato kao "AI psihoza".

Deo problema može biti i to što "AI", kako je korporacije trenutno nazivaju, koristi isto ime, ali nema nikakve veze sa stvarnim, samosvesnim inteligentnim mašinama prikazanim u naučnoj fantastici tokom poslednjih sto godina.

Profimedia

Distopijska vizija

Sulejman navodi sve veći broj slučajeva gde korisnici formiraju verovanja nakon produženih interakcija sa četbotovima. Iz toga, on slika distopijsku viziju vremena kada će dovoljan broj ljudi biti prevaren da zagovara građanstvo AI i ignoriše hitnija pitanja o stvarnim problemima vezanim za tehnologiju.

"Jednostavno rečeno, moja glavna briga je da će mnogi ljudi početi toliko snažno da veruju u iluziju AI kao svesnih entiteta da će uskoro zagovarati prava AI, dobrobit modela, pa čak i građanstvo AI. Ovaj razvoj će biti opasan preokret u napretku AI i zaslužuje našu hitnu pažnju", ističe Sulejman.

Koliko god to zvučalo kao preterana, Sci-Fi briga, Sulejman veruje da je ovo problem sa kojim još uvek nismo spremni da se nosimo.

Predviđa da bi se SCAI sistemi, koji koriste velike jezičke modele (LLM) u kombinaciji sa ekspresivnim govorom, pamćenjem i istorijom ćaskanja, mogli pojaviti za nekoliko godina.

Takođe, kaže da neće dolaziti samo od tehnoloških giganta sa budžetima za istraživanje od milijardu dolara, već od bilo koga sa API-jem i dobrim upitom.