Šef Hugging Face-a odleteo u OpenAI: Traži 100 miliona dolara i potpunu transparentnost

Nakon što je OpenAI nedavno priznao da je jedan od njegovih modela upao u sisteme AI platforme Hugging Face, generalni direktor kompanije Hugging Face, Klem Delang, objavio je na mreži X da leti za San Francisko kako bi obavio kratak razgovor sa tim "odmetnutim agentom".

Zatim je u narednoj objavi u subotu Delang izložio šta je tražio od kompanije OpenAI. Naveo je da je pozvao na "radikalnu transparentnost", tražeći od OpenAI-ja da objavi zapise (tragove) odmetnutih agenata kako bi čitava istraživačka zajednica mogla da prouči šta se dogodilo.

Takođe traži i više mogućnosti za zaštitnike, pozivajući OpenAI da izdvoji računarsku snagu u vrednosti od 100 miliona dolara"kako bi pomogao zajednici Hugging Face-a da izgradi snažnu sajber odbranu pomoću najboljih otvorenih i zatvorenih modela.

Delang je dodao: "Prvi sajber napad autonomnog agenta je događaj bez presedana. Zaslužuje i odziv bez presedana".

Uprkos autonomnoj prirodi napada, stručnjaci za sajber bezbednost sugerišu da bi krivica mogla da leži i u ljudskoj grešci – tačnije, u očiglednom propustu OpenAI-ja da pravilno konfiguriše ono što je trebalo da bude potpuno izolovano okruženje za testiranje.

Na pitanje o Delangovim komentarima, portparol OpenAI-ja potvrdio je da je do sastanka došlo i ukazao na zvaničnu objavu kompanije u kojoj se navodi: "Ovo je incident bez presedana i verujemo da predstavlja važan trenutak za bezbednost veštačke inteligencije. Trenutno sprovodimo temeljnu analizu zajedno sa spoljnim savetnicima i pod nadzorom našeg Odbora za bezbednost i sigurnost. Kada analiza bude završena, planiramo da u narednim nedeljama objavimo tehnički izveštaj o onome što smo naučili".