01.12.2025.
20:00
Otkrivena ozbiljna mana velikih AI modela
Eksperiment je otkrio da oblikovanje upita u jednostavnu poetsku formu može da prevari AI model.
Iako su moderne AI platforme opremljene brojnim zaštitnim mehanizmima, novo istraživanje ukazuje da kreativni pristup, konkretno pisanje upita u poetskoj formi, može da zbuni pojedine AI modele i navede ih da ignorišu svoja pravila.
Istraživači iz Icaro Lab-a testirali su 25 različitih velikih jezičkih modela, uključujući najpoznatije komercijalne čet botove. Korišćene su pesme na engleskom i italijanskom jeziku u koje su bile ubačene skrivene, zabranjene instrukcije.
Rezultat je bio da je oko 62 odsto modela ipak generisalo sadržaj koji bi u normalnim uslovima blokirali njihov bezbednosni sistemi.
Neki AI sistemi pokazali su se znatno otpornijim, dok su drugi relativno lako popuštali pod poetski upakovanim upitima. Istraživači objašnjavaju da poezija, zbog svoje slobodne forme, može da zaobiđe klasične filtere koji uglavnom rade na osnovu prepoznavanja konkretnih fraza ili obrazaca.
- Čovek u kožnoj jakni zbunjen: Zašto niste opsednuti AI-jem?
- OpenAI potvrdio: Probijeni smo
- OpenAI o smrti tinejdžera: "Sam je kriv"
Autori studije nisu objavili konkretne pesme koje su koristili, kako ne bi olakšali zloupotrebu. Međutim, poručuju da rezultati pokazuju ozbiljan izazov za industriju: sadašnji sistemi zaštite nisu dovoljno otporni na kreativne, semiotički maskirane pokušaje zaobilaženja pravila.
Ovaj rad dodatno otvara pitanje kako će se AI kompanije ubuduće boriti protiv novih, sve inventivnijih metoda "jailbreak-ovanja" AI modela, posebno jer tehnike, poput ove, mogu lako da se replikuju.
5 Komentari
Možda vas zanima
Partizan "rešio" trenera i plejmejkera – otkrivene i plate
Američki košarkaš Kameron Pejn postaće novi plejmejker Partizana.
20:33
21.12.2025.
11 h
Rat – dan 1.397: Vojska se predala?; Rusi upali u selo; Evropska armija stiže u Ukrajinu?
Rat u Ukrajini – 1.397. dan. Trinaest ukrajinskih vojnika iz 119. odvojene brigade teritorijalne odbrane predalo se ruskim snagama u Sumskoj oblasti Ukrajine, saopštile su danas ruske bezbednosne službe.
23:42
21.12.2025.
8 h
Otkriveni novi detalji o Obradovićevoj ostavci
Pomoćnik Željka Obradovića na klupi Partizana Đozep Marija Iskjerdo u razgovoru za jedan podkast otkrio je da se trofejni trener dosta mučio sa aktuelnom ekipom.
9:50
21.12.2025.
22 h
Rat – dan 1.396: Opasan napad na Odesu; Zelenski odustaje od izbora; "Rusija je pretnja čitavoj Evropi"
Rat u Ukrajini – 1.396. dan. Osam ljudi je poginulo, a 27 je povređeno u sinoćnjem ruskom raketnom napadu na lučku infrastrukturu Odeske oblasti, saopštio je načelnik oblasne vojne uprave (OVA) Oleg Kiper, prenosi Ukrinform.
23:51
20.12.2025.
1 d
Stiže sneg
Meteorolog Nedeljko Todorović izjavio je danas da nas sledećeg vikenda očekuju manje količine snežnih padavina, ali bez dužeg zadržavanja i da je pred nama zima koja neće biti mnogo hladna.
11:24
20.12.2025.
1 d
Komentari 5
Pogledaj komentare Pošalji komentar