Pentagon i Anthropic se posvađali, a ovo je razlog

Dok svet bruji o moćima generativne veštačke inteligencije, iza zatvorenih vrata Vašingtona vodi se bitka koja bi mogla da definiše budućnost ratovanja. Američko Ministarstvo odbrane (Pentagon) i kompanija Anthropic ušli su u ozbiljan klinč zbog načina na koji vojska koristi njihov najnapredniji model – Claude.

Problem nije u samoj tehnologiji, već u "kočnicama". Anthropic je, veran svojoj filozofiji o bezbednoj i etičkoj inteligenciji, u ugovore ugradio stroga ograničenja. Tako Claude ne sme da se koristi kao "mozak" koji samostalno bira mete i odlučuje o napadima bez ljudskog nadzora. Pore toga, zabranjeno je korišćenja modela za analizu podataka koja bi vodila ka narušavanju privatnosti američkih građana.

Pentagonu se ovo nimalo ne dopada. Zvaničnici Ministarstva odbrane smatraju da je neprihvatljivo da privatna kompanija diktira vojnu doktrinu. Njihov stav je jasan: ako država kupi softver vredan 200 miliona dolara, ona treba da ga koristi za sve zakonite operacije, bez "moralisanja" algoritama.

• Gotovo je za "emotivni" ChatGPT: OpenAI definitivno ugasio GPT-4o
• Svaki treći nemac za "robote ubice"
• Dao otkaz, pa upozorio: "Svet je u opasnosti"

Tenzije su dodatno podgrejane nakon informacija da je Claude navodno već korišćen u operacijama u Venecueli, i to preko posrednika – kompanije Palantir. To je nateralo Anthropic da "podigne gard" i dodatno pooštri kontrolu nad tim kako se njihovi alati preprodaju odbrambenom sektoru.

Ukoliko Anthropic ne popusti, Pentagon bi mogao da preusmeri sredstva ka konkurentima. Pominju se OpenAI (koji je nedavno ublažio svoje stavove o vojnoj saradnji) i Maskov xAI, koji bi verovatno imali manje etičkih kočnica kada je u pitanju nacionalna bezbednost.

I dok inženjeri u San Francisku pokušavaju da spreče scenario iz filmova naučne fantastike, generali u Pentagonu podsećaju da trka u naoružanju ne čeka na etičke debate – posebno u trenutku kada rivalske sile razvijaju sopstvene AI borbene sisteme bez ikakvih ograničenja.