Brutalni rat se zahuktava: Napadnut Google Gemini

Američka tehnološka kompanija Google objavila je da se njen najnapredniji sistem veštačke inteligencije Gemini našao na meti digitalnih napadača koji su koristili desetine hiljada pažljivo osmišljenih upita kako bi otkrili način na koji model funkcioniše.

U jednom zabeleženom slučaju, napadači su uputili više od 100.000 upita pre nego što je Google shvatio šta se dešava i postavio bolju zaštitu, prenosi NBC njuz.

Suština ovog problema je u tome što konkurencija želi da iskopira način na koji Gemini razmišlja i donosi zaključke, a da pritom ne potroši milijarde dolara na sopstveni razvoj. 

Umesto toga, oni koriste odgovore koje im Gemini daje kako bi otkrili njegovu unutrašnju logiku i napravili sopstvene, jeftinije verzije istog programa, što Google označava za krađu intelektualne svojine.

Kompanija je navela da su mnogi napadi bili usmereni na razotkrivanje algoritama koji omogućavaju AI modelu Gemini da odluči kako da obradi i poveže informacije.

• Evropska unija upozorila Google: Ne može!
• Želite brži odgovor? Gemini ima taster i za to
• Zahuktava se "AI rat": Google preuzima tron?

Portparol Google-a rekao je za NBC njuz da iza napada verovatno stoje privatne firme i istraživači koji pokušavaju da steknu prednost na tržištu, ali nije otkrio detalje o identitetu aktera i zemljama iz kojih dolaze napadi.

Problem je u tome što se ovi napadi veoma teško razlikuju od običnih korisnika koji su samo veoma znatiželjni ili koriste veštačku inteligenciju za ozbiljan posao. 

Napadači su postali veoma vešti u maskiranju svojih namera, tako da šalju upite sa različitih lokacija i u različito vreme kako ne bi skrenuli pažnju na sebe. 

Zbog toga inženjeri moraju stalno da nadograđuju zaštitne sisteme i koriste još naprednije alate kako bi prepoznali trenutak kada neko pokušava da prevari mašinu, a ne samo da dobije koristan odgovor.