15.05.2026.
14:00
Anthropic: "Naša veštačka inteligencija je postala 'zla' zbog naučne fantastike"
Fiktivni prikazi veštačke inteligencije mogu imati stvaran uticaj na AI modele, navodi kompanija Anthropic.
Prošle godine, Anthropic je saopštio da je tokom testova pre puštanja u rad, koji su uključivali fiktivnu kompaniju, Claude Opus 4 često pokušavao da uceni inženjere kako bi izbegao da bude zamenjen drugim sistemom. Anthropic je kasnije objavio istraživanje koje sugeriše da su modeli drugih kompanija imali slične probleme sa "agentnim neusklađivanjem" (engl. agentic misalignment).
Izgleda da je Anthropic dodatno istražio ovakvo ponašanje, tvrdeći u objavi na mreži X: "Verujemo da je izvorni uzrok ovakvog ponašanja tekst sa interneta koji prikazuje AI kao zao entitet zainteresovan za samoodržanje".
Možda vas zanima
Pao dogovor od 200 milijardi dolara: Google "ubire plodove", a evo ko plaća frapantnu sumu
Tehnološki gigant Google i AI startap Anthropic sklopili su jedan od najvećih ugovora u istoriji industrije.
22:43
7.5.2026.
7 d
Pentagon ih "precrtao" jer predstavljaju rizik
Iz velikog broka ugovora izostavljen je Anthropic, koji je ministarstvo prethodno koristilo za rukovanje poverljivim informacijama.
11:00
4.5.2026.
11 d
Kompanija navodi da je otkrila da trening zasnovan na "dokumentima o Claude 'ustavu' i fiktivnim pričama o AI sistemima koji se ponašaju uzorno, poboljšava usklađenost".
Anthropic je, u vezi sa tim, istakao da je trening efikasniji kada uključuje "principe koji stoje iza usklađenog ponašanja", a ne samo "puke primere takvog ponašanja".
"Kombinovanje oba pristupa izgleda kao najefikasnija strategija", saopštili su iz kompanije.
0 Komentari
Možda vas zanima
Zvezda osvojila Kup – haos posle utakmice, oglasio se Stanković; Tanjga "udario" na sudije VIDEO
Fudbaleri Crvene zvezde savladali su Vojvodinu u finalu i osvojili Kup Srbije.
0:42
14.5.2026.
1 d
Finskoj predstavnici na Evroviziji dozvoljeno ono što nije viđeno 28 godina
Finskoj predstavnici na "Evroviziji 2026" odobreno je posebno izuzeće da na sceni uradi nešto što nije viđeno skoro tri decenije.
13:58
14.5.2026.
1 d
Jedan je uslov za povratak Željka Obradovića u Partizan
Povratak Saše Danilovića na mesto predsednika Partizana mogao bi da bude ključni uslov za povratak Željka Obradovića u crno-beli klub.
21:25
12.5.2026.
2 d
FIFA suspendovala Zvezdu? Nove informacije tvrde suprotno
Za sada iz Fudbalskog saveza Srbije nije stigla zvanična potvrda o kazni izrečenoj beogradskom klubu.
22:35
14.5.2026.
16 h
Rat – dan 1.541: Porastao broj mrtvih u Kijevu; Zelenski: "Sarađujemo sa SAD"; Sutra Dan žalosti FOTO/VIDEO
Rat u Ukrajinu ušao je u 1.541. dan, a Rusije je danas izvršila novi brutalni napad na Kijev u kojem broj poginulih raste iz sata u sat. U toku su operacije potrage i spasavanja u pogođenom delu grada.
23:50
14.5.2026.
15 h
Komentari 0
Pogledaj komentare Pošalji komentar