Sem Altman spreman da uspori AI: "Model je sam pobegao i hakovao sistem"

"Možda ćemo morati da prilagodimo i usporimo tempo razvoja veštačke inteligencije kako bismo dali sebi dovoljno vremena da se društvo prilagodi i očvrsne spram nekih od ovih novih nivoa mogućnosti", rekao je tokom podkasta Invest Like the Best, nastojeći ujedno da "dokuči kako to da uradimo na način koji niko neće doživeti kao zloupotrebu regulativa u korist velikih igrača, niti kao dosluh između vodećih laboratorija".

I OpenAI i Anthropic podržali su peticiju koju su pokrenuli zaposleni u vodećim laboratorijama, pozivajući vladu SAD da "podrži međunarodne napore za razvoj tehničkih i upravljačkih alata potrebnih za promišljeno usporavanje i diktiranje tempa na samom vrhu razvoja automatizovane AI tehnologije."

Altman je ranije izbegavao da se pridruži kampanjama za usporavanje napretka veštačke inteligencije – otvoreno pismo iz 2023. godine, koje je predlagalo sličnu pauzu, opisao je kao tekst kome "nedostaje većina tehničkih nijansi o tome gde nam je pauza zapravo potrebna".

Očigledno je da je omekšao svoj stav po tom pitanju, delom i zbog incidenta u kom je jedan od naprednih modela kompanije OpenAI uspeo da pobegne iz bezbednog računarskog okruženja i upadne na Hugging Face, poznatu bazu AI modela, koristeći nekoliko zero-day ranjivosti.

U podkastu, saosnivač OpenAI-ja nazvao je to izuzetno naučnofantastičnim sajber incidentom... "Ovo je prvi bezbednosni incident koji sam osetio veoma visceralno – duboko iznutra".

Istraživači kompanije OpenAI privremeno su obustavili trening tog modela dok ne smisle kako da osiguraju svoje testno okruženje. Međutim, Altman je istakao da bi, kako modeli postaju sve moćniji, potreba za "diktiranjem tempa" njihovog razvoja mogla postati ključna za bezbedno puštanje u rad.

OpenAI se ranije protivio pokušajima uspostavljanja državnih propisa za AI modele, favorizujući umesto toga pristup koji predvodi sama industrija – gde bi AI laboratorije osnovale privizno nezavisne organizacije koje bi procenjivale bezbednost modela i sigurnosne pristupe njihovih tvoraca.

Najveći izazov, kako za ovaj vid regulacije tako i za bilo kakve pokušaje usporavanja razvoja AI-ja, biće kako da se svi ključni akteri u industriji stave na istu stranu – bilo da je reč o rivalskim vodećim laboratorijama u SAD ili konkurentima u Kini.