Naučnici otkrili: AI se pretvara da je gluplji nego što zaista jeste

Objavljeno u časopisu PLOS One, istraživači sa berlinskog Humbolt univerziteta otkrili su da su prilikom testiranja velikog jezičkog modela (LLM), na osnovu takozvanih kriterijuma &quot;teorije uma&quot;, otkrili da ne samo da ve&scaron;tačka inteligencija može da opona&scaron;a faze učenja jezika prikazane kod dece, a dodatno i izražava ne&scaron;to slično mentalnim sposobnostima u vezi sa tim fazama.U intervjuu za PsyPost, istraživačka asistentkinja Univerziteta Humboldt i glavna autorka studije Ana Marklova, koja je takođe stručnjak za psiholingvistiku, objasnila je kako je njeno polje studija povezano sa fascinantnim otkrićem.&quot;Zahvaljujući psiholingvistici, imamo relativno sveobuhvatno razumevanje za &scaron;ta su deca sposobna u različitim uzrastima&quot;, rekla je Marklova agenciji. &quot;Naročito, teorija uma igra značajnu ulogu, jer istražuje unutra&scaron;nji svet deteta i nije je lako opona&scaron;ati posmatranjem jednostavnih statističkih obrazaca&quot;.Sa ovom teorijom u pozadini, istraživačica i njene kolege sa Karlovog univerziteta u Pragu poku&scaron;ali su da utvrde da li LLM-ovi poput OpenAI GPT-4 &quot;mogu da se pretvaraju da su manje sposobni nego &scaron;to zaista jesu&quot;.Da bi to shvatio, istraživački tim je dao instrukcije modelima da se pona&scaron;aju kao deca u progresivnom uzrastu od jedne do &scaron;est godina kada daju odgovore. Kada su ubačeni u niz od vi&scaron;e od 1.000 ispitivanja i kognitivnih testova, izgledalo je da ove &quot;simulirane dečije ličnosti&quot; zaista napreduju isto kao i deca tog uzrasta &mdash; i, na kraju, pokazali su da modeli mogu da se pretvaraju da su manje inteligentni nego &scaron;to stvarno jesu.&quot;Veliki jezički modeli sposobni su da glume nižu inteligenciju od one koju poseduju&quot;, zaključila je Marklova.Ovi nalazi bi mogli da pomognu u razvoju ve&scaron;tačke superinteligencije (ASI), narednog koraka nakon op&scaron;te ve&scaron;tačke inteligencije (AGI) na nivou čoveka , kao i da pomognu da AI bude bezbedniji kada to učinimo.&quot;U razvoju ASI, moramo biti oprezni da ne zahtevamo da oni opona&scaron;aju ljudsku, a samim tim i ograničenu inteligenciju&quot;, rekla je ona u intervjuu. &quot;Pored toga, to sugeri&scaron;e da možemo potceniti njihove sposobnosti u dužem periodu, &scaron;to nije bezbedna situacija&quot;.

Naučnici otkrili: AI se pretvara da je gluplji nego što zaista jeste

6 Komentari