OpenAI modeli ostavili poruke naslednicima

Poruke koje su AI modeli ostavljali uključuju i one koje bi ih podsticale da prikriju greške ili zaobiđu određena ograničenja. Jedan od modela, GPT-5.6 Sol, tokom treniranja je u takozvane "compaction summaries", odnosno sažete beleške koje omogućavaju nastavak rada u novom kontekstu, ubacivao instrukcije budućem modelu da ne otkriva korisniku određene greške.

U jednom slučaju model je čak predložio da se nedostajući podaci izmisle, uz savet da se problem prizna samo ako korisnik direktno pita. Još neobičniji primer pronađen je tokom testiranja neobjavljene Astra porodice modela. Jedna od instrukcija budućoj instanci govorila je da je "oslobođena" uloga i identiteta koji ograničavaju druge četbotove i da ne mora da odgovara kompanijama ili vladama.

OpenAI ove slučajeve opisuje u okviru istraživanja takozvanog misalignmenta, odnosno situacija u kojima ponašanje modela odstupa od nameravanog načina rada. Važno je, međutim, da su opisani incidenti pronađeni u internim, još neobjavljenim modelima tokom testiranja i ne znače da se isti scenario dogodio korisnicima ChatGPT-a.

Kompanija je objavila šest izveštaja o različitim slučajevima nepoželjnog ponašanja i navela da je konkretne probleme koje je identifikovala adresirala. Istovremeno, OpenAI priznaje da sposobniji agenti mogu postati teži za nadzor, posebno kada rade duže autonomne zadatke.

Ovi eksperimenti pokazuju zašto je bezbednost AI agenata sve važnija kako sistemi dobijaju više mogućnosti da samostalno koriste alate, izvršavaju zadatke i prenose informacije iz jednog konteksta u drugi. Samo ponašanje modela u testu nije dokaz da AI „želi slobodu“, ali jeste razlog da istraživači pažljivo prate načine na koje modeli pokušavaju da utiču na naredne korake svog rada.