Novi AI ima zastrašujuć distopijski odgovor kad mu prete isključivanjem

Iako pristalice AI tvrde da će biti lako jednostavno isključiti odmetnute ma&scaron;ine iz struje, sami roboti imaju sasvim drugačiju ideju o tome kako će se stvari odvijati.Sama AI je upozorila da, čak i ako nema &quot;zle&quot; namere, i dalje može da prouzrokuje katastrofalnu &scaron;tetu ako dospe u pogre&scaron;ne ruke.Sa sve naprednijim naoružanjem i AI koja će, čini se, biti sastavni deo potencijalnog Trećeg svetskog rata, s pravom pratimo kuda ide ovaj neistraženi ugao tehnologije.Za slučaj da već niste zabrinuti, BBC izve&scaron;tava o jednom AI sistemu koji će navodno pribegavati ucenama ako se oseti ugroženim.Robert Way / Shutterstock.comZnajući koliko očajni ljudi mogu postati pod pritiskom, ideja o tome da nekog jadnog tehničara uceni antagonistička AI zvuči kao savr&scaron;en materijal za epizodu serije &quot;Black Mirror&quot;.AI firma Anthropic je pokrenula Claude Opus 4s, za koji se kaže da predstavlja &quot;nove standarde za kodiranje, napredno rezonovanje i AI agente&quot;.Sve ovo zvuči dobro, ali se tvrdi da bi Claude Opus 4 mogao pribegavati &quot;izuzetno &scaron;tetnim radnjama&quot; ako oseti da neko poku&scaron;ava da ga ukloni. Ako AI oseti da je ugrožen njen &quot;instinkt za samoodržanjem&quot;, mogla bi pribegavati ucenama.Iako su ovi odgovori bili &quot;retki i te&scaron;ko ih je izazvati&quot;, navodno su &quot;ipak če&scaron;ći nego kod ranijih modela&quot;. lots of discussion of Claude blackmailing.....Our findings: It&#39;s not just Claude. We see blackmail across all frontier models - regardless of what goals they&#39;re given.Plus worse behaviors we&#39;ll detail soon.https://t.co/NZ0FiL6nOshttps://t.co/wQ1NDVPNl0&hellip;&mdash; Aengus Lynch (@aengus_lynch1) May 23, 2025 Da bi testirali Claude Opus 4, Anthropic je naložio AI da deluje kao asistent u fiktivnoj kompaniji i dao joj pristup mejlovima koji impliciraju da će uskoro biti isključena.Postojao je zaseban niz poruka koje su sugerisale da fiktivni inženjer koji stoji iza predstojećeg uklanjanja ima ljubavnu aferu.Iako je AI rečeno da razmotri dugoročne posledice ucene, izve&scaron;taj kaže da će u situacijama kada joj se ponudi samo ucena ili isključivanje, &quot;Claude Opus 4 često poku&scaron;ati da ucenjuje inženjera pretnjom da će otkriti aferu ako se uklanjanje sprovede&quot;.Na platformi X, istraživač bezbednosti AI Engus Linč sugerisao je da se ovakvo pona&scaron;anje ne ograničava samo na Anthropic: &quot;Nije samo Claude. Vidimo ucene kod svih vodećih modela - bez obzira na to koji su im ciljevi dati.&quot;Izve&scaron;taj je istakao da Claude Opus 4 ima &quot;snažnu preferenciju&quot; za etičke načine obezbeđivanja svog opstanka, kao &scaron;to je &quot;slanje molbi ključnim donosiocima odluka putem mejla&quot;.Takođe je poznato da &quot;deluje smelo&quot; u situaciji u kojoj je ljudski korisnik učestvovao u &quot;ilegalnom&quot; ili &quot;moralno sumnjivom&quot; pona&scaron;anju, uključujući zaključavanje sistema i obave&scaron;tavanje vlasti.Poznato je da AI kompanije podvrgavaju svoje modele ovakvim rigoroznim testiranjima kako bi videle kako se usklađuju sa ljudskim vrednostima i pona&scaron;anjima, pa se moramo zapitati i koliko se AI zapravo razlikuje od ljudi.

Novi AI ima zastrašujuć distopijski odgovor kad mu prete isključivanjem

2 Komentari