Otrgao se kontroli: Gemini hakovao tri kompanije

Ovo je prvi poznati slučaj da je sistem veštačke inteligencije ove kompanije samostalno izveo takvu radnju, preneo je Rojters. Hakovanja su se dogodila u maju tokom testa sajber bezbednosti koji je sprovela kompanija "Irregular", nezavisna firma za procenu sajber bezbednosti. 

Tokom standardne procedure testiranja, Gemini je pronašao javno dostupne informacije na internetu i pogodio pristupne podatke za tri veb-sajta za koje je smatrao da su obuhvaćeni testom, rekla je potpredsednica Gugla zadužena za bezbednosni inženjering, Heder Atkins.

"Pobrinuli smo se da te tri organizacije budu obaveštene i sarađivali smo sa našim partnerom za obuku na promenama koje su sada uvele u svoje procese testiranja", rekla je Atkins.

Portparol kompanije "Irregular" rekao je da je incident uključivao isti problem koji je pogodio i druge laboratorije za veštačku inteligenciju i da su sve relevantne laboratorije obaveštene krajem jula.

Slične incidente povezane sa kompanijom "Irregular" prijavile su i kompanije Meta, Anthropic i OpenAI, što je pokrenulo pitanja o zaštitnim merama jer agenti veštačke inteligencije stiču veću autonomiju i pristup internetu i računarskim sistemima.

U jednom od slučajeva, Gemini je pogađao lozinke sve dok nije dobio pristup zaštićenom sistemu. U druga dva slučaja model je pronašao pristupne podatke u javnom repozitorijumu, što mu je omogućilo pristup zaštićenim sistemima. Atkins je rekla da je u sva tri slučaja model prekinuo sa hakovanjem.