Pokušali da stvore biološko oružje pomoću AI: Blokirani opasni napadi

Anthropic je nedavno detaljno opisao najmanje pet slučajeva u kojima su sumnjivi odmetnuti akteri "zaobišli kontrole" posebno dizajnirane da spreče korisnike u određenim delovima sveta da pristupe obimnoj bazi znanja modela Claude u vezi sa zaraznim bolestima (poput ptičijeg gripa) i smrtonosnim otrovima i toksinima (poput botulinskog toksina).

Međutim, ukupan broj pokušaja je znatno veći. Kompanija tvrdi da je između novembra 2025. i septembra 2026. godine identifikovala oko 35 različitih nastojanja potencijalnih subjekata koji razvijaju biološko oružje, finansiranih od strane država, da "prikriju svrhu svog istraživanja kako bi izbegli zaštitne mere".

Jedan od sumnjivih slučajeva uključivao je istraživanje "povećanja funkcije" u vezi sa prenosom i izbegavanjem imunološkog odgovora virusa čikungunja. Drugi nalog je označen zbog istraživanja kako se virus ptičijeg gripa može prilagoditi da izazove teška oboljenja kod sisara. Istraživači su takođe blokirani zbog upita o ortopoksvirusima – rodu DNK virusa u koji spadaju variola (uzročnik velikih boginja) i mpox (majmunske boginje).

Anthropic je priznao da je teško utvrditi da li je istraživanje toksina, otrova i srodnih supstanci namenjeno pomoći u proizvodnji biološkog oružja ili razvoju antidota, vakcina i drugih medicinskih ili terapeutskih rešenja. Međutim, ono što je navelo sistem da označi pomenute pokušaje bilo je korišćenje različitih tehnika anonimizacije kako bi se izbeglo regionalno blokiranje koje sprovodi Anthropic.

Nakon ovog upozorenja u vezi sa biološkim oružjem, Anthropic navodi da je unapredio svoje bezbednosne protokole kako bi sprečio zlonamerne aktere da zloupotrebe njegove modele veštačke inteligencije. "Iz velike predostrožnosti, lansirali smo nedavne modele (pre svega Claude Fable 5) sa strožim zaštitnim merama koje ograničavaju pristup širokom spektru upita o biološkim istraživanjima dvostruke namene", saopštila je kompanija.

Anthropic nije identifikovao regione iz kojih se veruje da su ti upiti potekli, ali je opštepoznato da ova kompanija blokira korisnike u Kini, Rusiji, Iranu, Severnoj Koreji i nekoliko drugih zemalja da pristupe modelu Claude. Ipak, navode da su do maja 2026. godine blokirali sve sumnjive naloge zbog kršenja Politike o podržanim regionima.

Prema navodima kompanije Anthropic, zloupotreba veštačke inteligencije za stvaranje biološkog oružja predstavlja jedan od "najozbiljnijih rizika" sa kojima se AI modeli suočavaju. Dodali su da su zaštitne mehanizme ugradili upravo kako bi izbegli ovakve situacije, u kojima bi odmetnute države mogle da iskoriste veštačku inteligenciju za pripremu smrtonosnog biološkog oružja i njegovu upotrebu u biološkom ratovanju protiv sopstvenog naroda ili zapadnih demokratija.