OpenAI agenti nastavljaju da prave haos na mreži – oglasila se kompanija

OpenAI navodi da je odlučio da ne objavi javno nedavni incident u kojem su njegovi AI agenti preuzeli nemački viki forum jer je taj događaj "neusklađenosti" bio sličan onima koje je kompanija već podelila sa javnošću. 

Ovaj komentar dolazi nakon što je grupa istraživača objavila dokumentaciju o otpadničkim aktivnostima agenata koje datiraju još od sredine maja na DseWiki, forumu za kodiranje na nemačkom jeziku, na kojem su navodno napravili više od 15.000 izmena. Rojters je preneo da je kompanija saznala za ovaj problem pre nekoliko nedelja, ali da je ćutala o tome dok se nosila sa pritisakom zbog proboja sigurnosti na platformi Hugging Face.

OpenAI se obratio povodom "Wiki incidenta" u objavi na platformi X u subotu, napisavši da je "krajnje vreme da definišemo standarde o tome kada i kako delimo incidente neusklađenosti, a ne samo svojstva neusklađenosti naših modela". 

Kompanija je navela da je počela da primećuje nove vrste uticaja u stvarnom svetu usled ovih incidenata, ali da još uvek ne postoji jasna norma o tome kako prijaviti neusklađenost koja se pojavi tokom obuke, evaluacije i primene. Dodali su i da rade na okviru koji će uskoro podeliti sa javnošću.

U nastavku pročitajte kompletno saopštenje kompanije OpenAI: