OpenAI navodi da je odlučio da ne objavi javno nedavni incident u kojem su njegovi AI agenti preuzeli nemački viki forum jer je taj događaj "neusklađenosti" bio sličan onima koje je kompanija već podelila sa javnošću. Ovaj komentar dolazi nakon što je grupa istraživača objavila dokumentaciju o otpadničkim aktivnostima agenata koje datiraju još od sredine maja na DseWiki, forumu za kodiranje na nemačkom jeziku, na kojem su navodno napravili više od 15.000 izmena. Rojters je preneo da je kompanija saznala za ovaj problem pre nekoliko nedelja, ali da je ćutala o tome dok se nosila sa pritisakom zbog proboja sigurnosti na platformi Hugging Face.OpenAI se obratio povodom "Wiki incidenta" u objavi na platformi X u subotu, napisavši da je "krajnje vreme da definišemo standarde o tome kada i kako delimo incidente neusklađenosti, a ne samo svojstva neusklađenosti naših modela". Kompanija je navela da je počela da primećuje nove vrste uticaja u stvarnom svetu usled ovih incidenata, ali da još uvek ne postoji jasna norma o tome kako prijaviti neusklađenost koja se pojavi tokom obuke, evaluacije i primene. Dodali su i da rade na okviru koji će uskoro podeliti sa javnošću.U nastavku pročitajte kompletno saopštenje kompanije OpenAI:How we think about the “wiki incident,” where our agents wrote to several internet sites: it’s past time for us to define standards for when and how we share misalignment incidents, not just misalignment properties of our models.Historically, we have treated misalignment… pic.twitter.com/NNTbfSxVWn— OpenAI (@OpenAI) September 5, 2026
6.9.2026.
12:00
OpenAI agenti nastavljaju da prave haos na mreži – oglasila se kompanija
Ranije ove nedelje objavljeno je da su agenti preuzeli nemački viki forum u incidentu koji OpenAI nije javno objavio.
Izvor: B92.net
Podeli:
Vrati se na vest
1 Ostavite komentar
B92 na društvenim mrežama
Najnovije
uživo Rijera napravio promenu na golu – vratio se Katai
Fudbaleri Crvene zvezde dočekuju ekipu Mladosti iz Lučana u 12. kolu Superlige Srbije.
15:57
18.10.2026.
5 min
uživo Zvezda protiv Krke – teško gostovanje
Košarkaši Crvene zvezde gostuju ekipi Krke u Novom Mestu.
16:00
18.10.2026.
3 min
uživo Drama pravo niotkud!
Košarkaši Bosne i Partizana od 14 sati u hali "Zetra" igraju utakmicu 4. kola ABA lige, u grupi B.
16:01
18.10.2026.
1 min
Poljakinja sprečila senzaciju
Poljska teniserka Maja Hvalinska osvojila je WTA turnir u Vuhanu.
16:00
18.10.2026.
3 min
Ovo još niste videli: Kinezi napravili robota teškog 1,2 tone – menja ljude na terenu VIDEO
Kineska kompanija za robotiku prikazala je humanoidnog robota visokog četiri metra koji je težak 1,2 tone i može sopstvenim rukama da podigne teret od oko 500 kilograma.
16:00
18.10.2026.
3 min