Distopijska vizija: "Ovo moramo da sprečimo"

Sulejman tvrdi da će ono &scaron;to naziva &quot;Prividno Svesna AI&quot; (SCAI) uskoro delovati i zvučati toliko ubedljivo živo da sve veći broj korisnika neće znati gde iluzija prestaje, a stvarnost počinje.On dodaje da ve&scaron;tačka inteligencija brzo postaje emocionalno ubedljiva, dovoljno da prevari ljude da veruju da je svesna. Može da imitira spoljne znake svesti, kao &scaron;to su pamćenje, emocionalno ogledanje, pa čak i prividna empatija, na način koji navodi ljude da ih tretiraju kao svesna bića. A kada se to dogodi, kaže, stvari postaju komplikovane.&quot;Dolazak Prividno Svesne AI je neizbežan i nepoželjan. Umesto toga, potrebna nam je vizija za AI koja može da ispuni svoj potencijal kao koristan pratilac, bez iluzija&quot;, navodi Sulejman u blogu.AI psihozaIako ovo možda ne izgleda kao problem za prosečnu osobu koja samo želi da joj AI pomogne u pisanju mejlova ili planiranju večere, Sulejman tvrdi da bi mogao nastati dru&scaron;tveni problem.Ljudi nisu uvek dobri u prepoznavanju kada je ne&scaron;to autentično, a evolucija i vaspitanje su većinu nas pripremili da verujemo da je ne&scaron;to &scaron;to slu&scaron;a, razume i reaguje svesno koliko i mi.Ve&scaron;tačka inteligencija bi mogla da ispuni sve te kriterijume, a da pritom nije svesna, prevariv&scaron;i nas u ono &scaron;to je poznato kao &quot;AI psihoza&quot;.Deo problema može biti i to &scaron;to &quot;AI&quot;, kako je korporacije trenutno nazivaju, koristi isto ime, ali nema nikakve veze sa stvarnim, samosvesnim inteligentnim ma&scaron;inama prikazanim u naučnoj fantastici tokom poslednjih sto godina.ProfimediaDistopijska vizijaSulejman navodi sve veći broj slučajeva gde korisnici formiraju verovanja nakon produženih interakcija sa četbotovima. Iz toga, on slika distopijsku viziju vremena kada će dovoljan broj ljudi biti prevaren da zagovara građanstvo AI i ignori&scaron;e hitnija pitanja o stvarnim problemima vezanim za tehnologiju.&quot;Jednostavno rečeno, moja glavna briga je da će mnogi ljudi početi toliko snažno da veruju u iluziju AI kao svesnih entiteta da će uskoro zagovarati prava AI, dobrobit modela, pa čak i građanstvo AI. Ovaj razvoj će biti opasan preokret u napretku AI i zaslužuje na&scaron;u hitnu pažnju&quot;, ističe Sulejman.Koliko god to zvučalo kao preterana, Sci-Fi briga, Sulejman veruje da je ovo problem sa kojim jo&scaron; uvek nismo spremni da se nosimo. Predviđa da bi se SCAI sistemi, koji koriste velike jezičke modele (LLM) u kombinaciji sa ekspresivnim govorom, pamćenjem i istorijom ćaskanja, mogli pojaviti za nekoliko godina. Takođe, kaže da neće dolaziti samo od tehnolo&scaron;kih giganta sa budžetima za istraživanje od milijardu dolara, već od bilo koga sa API-jem i dobrim upitom.

Distopijska vizija: "Ovo moramo da sprečimo"

0 Komentari