Otkrivene tajne OpenAI i Google AI modela

Novo istraživanje, koje su sproveli istraživači nekoliko univerziteta, zajedno sa stručnjacima kompanija Google DeepMind i OpenAI, otkriva da su OpenAI i Google AI modeli "probijeni" i otkriveno je nešto što do sada nije bilo poznato.

Naučnici iz pomenutih institucija su uspeli da lansiraju napad na OpenAI i Google AI servise, što je dovelo do otkrivanja značajnog dela skrivenih transformer modela.

• AI ulenjio i nastavnike: Koriste ChatGPT za ocenjivanje
• Razbijaju kasicu: Veliki igrač ulaže 1,25 milijardi u razvoj veštačke inteligencije
• Prljava tajna naučnika: Niko ne zna kako AI funkcioniše

Tim nije želeo da objavi javno svoja otkrića, ali su istakli nekoliko zanimljivih detalja:

"Za manje od 20 dolara, naš napad izdvaja kompletnu projekcionu matricu OpenAI-jevih jezičkih modela", navode istraživači u svom radu. "Time potvrđujemo, po prvi put, da ovi modeli imaju skrivene dimenzije 1024 i 2048. Takođe dobijamo tačnu veličinu skrivene dimenzije gpt-3.5-turbo modela i procenjujemo da bi to koštalo ispod 2.000 dolara u upitima za oporavak cele projekcione matrice".

Slično je otkriveno i za Google AI model, gde je takođe moguće rekonstruisati bitne aspekte modela.