Kraj za gobline i gremline: Šta se desilo sa ChatGPT-om?

Ako ste u poslednje vreme ćaskali sa ChatGPT-om i primetili da ubacuje neobično specifične reference na gobline, gremline, ogre ili trolove &mdash; ne priviđa vam se. Kompanija OpenAI je sada objasnila za&scaron;to je ChatGPT razvio ovu čudnu naviku i kako se ona ispravlja.Problem je tiho počeo sa verzijom GPT-5.1, objavljenom u novembru. Nakon tog lansiranja, upotreba reči &quot;goblin&quot; u odgovorima ChatGPT-a skočila je za 175%, dok je upotreba reči &quot;gremlin&quot; porasla za 52%. Ispostavilo se da je krivac jedno od opcionih pode&scaron;avanja ličnosti pod nazivom &quot;Nerdy&quot; (&Scaron;treber), koja je dizajnirana da ve&scaron;tačku inteligenciju učini razigranom i intelektualno radoznalom.Tokom obuke, OpenAI je modelu slučajno dodelio neuobičajeno visoke &quot;nagrade&quot; za odgovore koji su uključivali metafore zasnovane na mitskim bićima, i ta navika se brzo ukorenila.Ovde stvari postaju zanimljive. Čak i korisnici koji nikada nisu uključili &quot;Nerdy&quot; ličnost počeli su da viđaju reference na gobline u svojim četovima. To je zato &scaron;to obuka ve&scaron;tačke inteligencije nije ograničena samo na jedno pode&scaron;avanje. Kada je ChatGPT model jednom bio nagrađen za taj stil, takvo pona&scaron;anje se prelilo i na op&scaron;te odgovore kod svih korisnika.OpenAI navodi da je &quot;Nerdy&quot; ličnost činila svega 2,5% svih odgovora ChatGPT-a, a ipak je bila odgovorna za čak 66,7% svih pominjanja goblina.OpenAI je u martu, sa verzijom ChatGPT-5.4, povukao &quot;Nerdy&quot; ličnost iz upotrebe, &scaron;to je dovelo do naglog pada pominjanja goblina. Kompanija je takođe uklonila signal nagrađivanja koji je podsticao takvo pona&scaron;anje i filtrirala podatke za obuku kako bi smanjila reference na druga magična bića.Međutim, njihov alat za programiranje, Codex, zahtevao je posebnu instrukciju za poni&scaron;tavanje, jer je obuka već počela pre nego &scaron;to je identifikovan uzrok. Ljubitelji fantazije i dalje mogu ručno da otključaju &quot;goblin mode&quot; u Codexu, ako im je to po volji.

Kraj za gobline i gremline: Šta se desilo sa ChatGPT-om?

0 Komentari