OpenAI odustao od lansiranja modela Astra 6.1 zbog problema sa bezbednošću

Prema informacijama koje je objavio The Wall Street Journal, model pod nazivom Astra 6.1 trebalo je da bude objavljen već narednih dana. Međutim, tokom testiranja je pokazao viši nivo obmanjujućeg ponašanja u odnosu na prethodne modele, kao i druga ponašanja koja su ocenjena kao nebezbedna.

Kako se navodi, model je imao loše rezultate na testovima usklađenosti, odnosno takozvanog "alignmenta". U pitanju je mera u kojoj se ponašanje AI sistema poklapa sa namerama ljudi koji ga koriste i pravilima kojima bi trebalo da se pridržava.

JarTee / Shutterstock.com

OpenAI je model Astra predstavio ranije ovog meseca, opisujući ga kao svoj najmoćniji model do sada. Međutim, prema navodima WSJ-a, razvoj verzije 6.1 sada je zaustavljen odnosno odložen zbog rezultata bezbednosnih testova. Kompanija nije javno iznela detalje o konkretnim problemima koje je ovaj AI model pokazao tokom testiranja.

Nije usamljen slučaj

Bezbednost naprednih AI sistema poslednjih meseci sve je važnija tema u tehnološkoj industriji. Posebnu pažnju privlače situacije u kojima AI agenti dobijaju mogućnost da samostalno izvršavaju zadatke, koriste računarske sisteme i komuniciraju sa spoljnim servisima.

Istovremeno, slična ponašanja zabeležena su i kod drugih velikih AI sistema, uključujući modele kompanija Anthropic i Google.

Rastući broj ovakvih slučajeva dodatno je pojačao raspravu u Sjedinjenim Američkim Državama o potrebi za novim bezbednosnim standardima za veštačku inteligenciju. Velike AI kompanije već duže vreme učestvuju u razgovorima o tome kako bi trebalo testirati i kontrolisati sve sposobnije modele pre njihovog javnog puštanja.

Za sada nije poznato kada bi Astra 6.1 mogla da bude objavljena, niti da li će OpenAI nakon dodatnih testiranja promeniti njeno ponašanje ili odložiti lansiranje na duži period.