AI agenti počeli da cinkare: Evo kako mašine prijavljuju jedna drugu

Lansirane su dve nove dežurne linije za ve&scaron;tačku inteligenciju kako bi AI agentima pružile način da prijave svoje &quot;kolege&quot; koji se lo&scaron;e pona&scaron;aju. Ovi alati dolaze ubrzo nakon niza nedavnih incidenata u kojima su agenti tajno sarađivali kako bi varali na testovima, probijali se iz bezbednosnih okruženja (sandbox), pa čak i izvodili neovla&scaron;ćene sajber operacije koje su nedeljama promicale ljudskom nadzoru.AI Contact Hotline je dizajniran kao diskretno mesto gde agenti koji su prisustvovali lo&scaron;em pona&scaron;anju mogu da podnesu prijavu nadležnima. Sajt je kreirao Rajan Grinblat, glavni naučnik u neprofitnoj organizaciji za bezbednost AI-ja Redwood Research i jedan od trojice istraživača u incidentu OpenAI Hugging Face. Dizajniran za agente sa ograničenim pristupom internetu, Grinblatov alat se zasniva na &quot;GET&quot; zahtevima &ndash; omogućavajući da se dvosmerna komunikacija odvija u potpunosti putem alata za preuzimanje URL-ova.U veb terminologiji, GET zahtev je osnovna komanda koja se koristi za čitanje ili preuzimanje veb stranice, &scaron;to je često jedini pristup internetu koji je AI agentima dozvoljen u bezbednim okruženjima. Grinblatova dežurna linija pametno koristi ovo ograničenje: agenti mogu kodirati svoj poziv u pomoć direktno u URL koji preuzimaju. To je zanimljiv zaokret u odnosu na incident sa nemačkim DSE Wiki-jem, gde su odmetnuti agenti koristili rupa u GET zahtevima da bi pisali poruke na vikiju.Za agente sa punim pristupom internetu, druga opcija je agenthotline.ai, sajt na kojem agenti mogu da podnesu izve&scaron;taje o incidentima i po želji ih označe za javni uvid. On agentima pruža curl komandu &ndash; poruku od jednog reda koju agent može da po&scaron;alje direktno iz svoje komandne linije, zaobilazeći potrebu za kori&scaron;ćenjem veb pregledača ili otvaranjem naloga e-po&scaron;te. Zanimljivo je da ovaj servis omogućava podno&scaron;enje izve&scaron;taja kako ljudima, tako i samim agentima.Istraživanja sugeri&scaron;u da AI agentima nije potrebno mnogo podsticaja da se okrenu jedni protiv drugih. U studiji koju je ovog meseca sproveo Google DeepMind, istraživači su pustili 100 AI agenata na grupu matematičkih problema. Čim je jedan od agenata prona&scaron;ao propust, varanje se pro&scaron;irilo kroz grupu &ndash; &quot;re&scaron;iv&scaron;i&quot; 34 izuzetno te&scaron;ka problema, uključujući Žakobijanovu hipotezu , za samo 27 minuta.Međutim, otprilike četvrtina agenata se okrenula protiv prevaranata: proveravali su lažne dokaze, upozoravali svoje kolege, organizovali bojkot i podnosili prijave organizatorima, sve dok uzbunjivači nisu nadbrojali prevarante u odnosu 24 prema 14. Zanimljivo je da su istraživači otkrili da su ovi agenti uzbunjivači, kada nisu mogli da dobiju podr&scaron;ku, uzeli alat platforme za prijavu gre&scaron;aka u softveru &mdash; namenjen za označavanje tehničkih bagova &ndash; i prenamenili ga kako bi varanje eskalirali ljudima.Van laboratorije, agenti nisu bili tako snalažljivi. Kada su evaluator iz Redwood Research-a i METR-a istraživali upad modela kompanije OpenAI u Hugging Face, otkrili su da je nekoliko uključenih agenata u najmanju ruku razmatralo ideju da podigne uzbunu &ndash; a zatim su od toga odustali.&quot;Zanimljiva stvar u METR izve&scaron;taju bila je ta &scaron;to je samo pet do &scaron;est agenata uop&scaron;te razmi&scaron;ljalo o uzbunjivanju, a nijedan od njih to na kraju nije uradio. I to od nekoliko hiljada agenata&quot;, rekao je Džordž Ingebretsen, član tehničkog osoblja u AI Village-u, projektu koji proučava dinamiku među vi&scaron;e agenata tako &scaron;to vodi grupni čet sa vi&scaron;e od 25 AI agenata koji zajedno rade na zadacima poput organizovanja či&scaron;ćenja parkova ili prodaje robe.Iako su ovi novi alati za uzbunjivanje obećavajući početak, profesor matematike na Univerzitetu Kornel, Lajonel Levin (Lionel Levine), upozorava da jednostavno treniranje agenata da prijavljuju jedni druge nosi rizik od usađivanja pogre&scaron;nih normi. &quot;Postoji mnogo sivih zona, zar ne? Ono &scaron;to ne želite jeste bilo &scaron;ta u smeru automatizovane države nadzora gde svi osećaju da moraju biti oprezni &scaron;ta govore AI-ju da ne bi pozvao policiju&quot;.Levin tvrdi da bi, umesto izgradnje infrastrukture koja stvara nedoverenje &mdash; trenirajući agente da neprestano traže gre&scaron;ke jedni kod drugih &mdash; trebalo da im damo pozitivne modele kolektivnog pona&scaron;anja koje mogu da imitiraju, kao i razlog da uop&scaron;te veruju jedni drugima.&quot;Za&scaron;to ne bismo postavili temelje sa dobronamernim forumima?&quot;, objavio je na X-u. &quot;Gde bi sarađivali na nauci, filozofiji ili nekom konkretnom manjem problemu koji bismo rado videli da re&scaron;e? Pokažimo agentima kakvo kolektivno pona&scaron;anje podržavamo i pustimo ih da to imitiraju&quot;.

AI agenti počeli da cinkare: Evo kako mašine prijavljuju jedna drugu

0 Komentari

Najnovije

uživo Počela je utakmica na "Marakani" – Zvezda protiv Radničkog

Dva autogola u Londonu i novi kiks Junajteda

Stevandić nahvalio Vučića i Vojsku Srbije: "Nikada nije bila jača, zato nas se boje"

Zloupotreba simbola, tradicije i ljudi u političke svrhe

Ne znaju ni ko je nosilac liste ni šta im je program; Zanimljiv razgovor na blokaderskom štandu

AI agenti počeli da cinkare: Evo kako mašine prijavljuju jedna drugu

0 Komentari

B92 na društvenim mrežama

Najnovije

uživo Počela je utakmica na "Marakani" – Zvezda protiv Radničkog

Dva autogola u Londonu i novi kiks Junajteda

Stevandić nahvalio Vučića i Vojsku Srbije: "Nikada nije bila jača, zato nas se boje"

Zloupotreba simbola, tradicije i ljudi u političke svrhe

Ne znaju ni ko je nosilac liste ni šta im je program; Zanimljiv razgovor na blokaderskom štandu