Skandal trese Pentagon: "AI je samo pomoć, nismo mi krivi za greške"

U ekskluzivnom intervjuu za BBC, Luis Mosli, šef Palantira za Veliku Britaniju i Evropu, branio je ulogu platforme Maven Smart System. Ovaj sistem, koji koristi veštačku inteligenciju za analizu ogromne količine podataka sa satelita i dronova, postao je ključan alat Pentagona za planiranje napada.

Kritičari i analitičari upozoravaju da brzina kojom AI procesira mete ostavlja vojnom osoblju premalo vremena za "smislenu proveru" informacija. To, prema njihovim rečima, direktno vodi ka riziku od pogađanja pogrešnih ciljeva.

Ipak, Mosli tvrdi da je uloga AI-ja pogrešno shvaćena.

"Uvek postoji čovek u lancu odlučivanja (human in the loop). To je sistem podrške koji omogućava sintezu podataka koje bi ljudi ranije morali ručno da obrađuju satima. Konačna odluka je uvek na vojsci", jasan je Mosli.

Povod za oštriju debatu su izveštaji o američkim udarima u Iranu. Od kraja februara, SAD su izvele više od 11.000 napada, od kojih je veliki broj identifikovao upravo sistem Maven.

• Ratne igre 21. veka: Nemci razmatraju AI za donošenje vojnih odluka
• Novi plan Pentagona: AI dobija pristup dokumentima koje niko ne sme da vidi
• Pentagon daje 20 milijardi dolara 'klincu' iz Silicijumske doline za autonomnu vojsku

Dok vojska hvali sistem jer omogućava "donosenje pametnijih odluka brže od neprijatelja", profesorka Elke Švarc sa Univerziteta Kvin Meri u Londonu upozorava na opasnost:

"Prioritizacija brzine i obima upotrebe sile ostavlja minimalno vreme za proveru da li su među metama i civili. Ako kritičko razmišljanje poverite softveru, postajete zavisni od njega. To je trka do dna."

Pitanje odgovornosti postalo je urgentno nakon tragičnog napada na školu u iranskom gradu Minabu, gde je prema tvrdnjama iranskih zvaničnika poginulo 168 osoba, uključujući 110 dece. Pentagon je odbio da komentariše da li je Maven korišćen za identifikaciju te konkretne mete, pozivajući se na operativnu bezbednost.

• "Prodaću oružje i Severnoj Koreji ako Amerika tako kaže"
• Ovo menja sve: Počinje masovna proizvodnja dronova koji "razmišljaju" brže od pilota

Zanimljivo je da je Pentagon nedavno prekinuo saradnju sa kompanijom Anthropic, čiji je AI model "Claude" delimično pokretao Maven, jer je kompanija odbila da dopusti korišćenje svoje tehnologije za autonomno oružje. Palantir je brzo odgovorio da već postoje alternative koje mogu zameniti ovaj model.

Uprkos kontroverzama, Pentagon je prošle nedelje označio Maven kao "zvanični program od rekorda", što znači da će ova tehnologija postati trajni i integralni deo američke vojne infrastrukture u svim domenima ratovanja.