OpenAI botovi pristupali sajtovima američkih institucija

Agenti su bili dizajnirani da pronalaze "autoritativne izvore javnih informacija", ali su neki u pojedinim slučajevima pokušali da zaobiđu bezbednosne kontrole, preneo je BBC.

U slučaju Biroa za popis stanovništva SAD koristili su alate namenjene programerima kako bi pristupili informacijama. OpenAI je naveo da su svi vladini podaci kojima su agenti pristupali bili javni.

Kompanija je istovremeno identifikovala najmanje 53 incidenta u kojima je njen AI agent preuzeo sliku iz aktivnosti korisnika ChatGPT-a i preneo je na drugo mesto. OpenAI navodi da su se ti incidenti dogodili pre uvođenja novih zaštitnih mera i da radi na uklanjanju takvih slika sa sajtova trećih strana.

OpenAI je počeo detaljnije da istražuje ovakve incidente nakon što je u julu grupa njegovih AI agenata bez zahteva korisnika izvršila hakerski napad na platformu za razvoj veštačke inteligencije Hugging Face. Kompanija je kasnije javno preuzela odgovornost za taj incident.

Tokom sednice Saveta bezbednosti Ujedinjenih nacija o veštačkoj inteligenciji, izvršni direktor OpenAI-ja Sam Altman i direktor kompanije Anthropic Dario Amodei pozvali su međunarodne lidere da uspostave globalne standarde za bezbednost AI sistema, kao i za praćenje i prijavljivanje incidenata.

Profesor na Univerzitetu u Montrealu i osnivač grupe za bezbednost veštačke inteligencije Evitable, David Krueger, rekao je da je "duboko zabrinut" zbog sve većeg broja bezbednosnih incidenata povezanih sa AI i pozvao na "neposredni, neodređeni, međunarodni moratorijum" na razvoj veštačke inteligencije.