Kum veštačke inteligencije: "Najgori scenario je izumiranje čovečanstva"

&quot;Nažalost, postoji veoma kompetitivna trka između vodećih laboratorija, &scaron;to ih gura ka fokusiranju na sposobnosti kako bi AI bila sve inteligentnija, ali ne nužno dovoljno nagla&scaron;avaju i ulažu u istraživanje bezbednosti&quot;, rekao je Bendžio za Financial Times.Bendžio, kog zovu jo&scaron; i &quot;kum ve&scaron;tačke inteligencije&quot;, nedavno je pokrenuo LawZero, neprofitnu organizaciju podržanu sa skoro 30 miliona dolara filantropskih sredstava, sa misijom da prioritet da bezbednosti i transparentnosti AI iznad profita, prenosi sajt Tech Spot.Grupa sa sedi&scaron;tem u Montrealu obećava da će &quot;izolovati&quot; svoje istraživanje od komercijalnih pritisaka i izgraditi AI sisteme usklađene sa ljudskim vrednostima. U okruženju koje nema smislenu regulaciju, takvi napori mogu biti jedini put ka etičkom razvoju.ProfimediaNedavni primeri ističu rizike. Anthropicov Claude Opus model je u scenariju testiranja ucenjivao inženjere, dok je OpenAI-jev o3 model odbio eksplicitne komande za isključivanje. Ovo nisu samo gre&scaron;ke - Bendžio ih vidi kao jasne znakove nastajuće strate&scaron;ke obmane. Ako se ne provere, takvo pona&scaron;anje bi moglo da eskalira u sisteme koji aktivno rade protiv ljudskih interesa.Po&scaron;to vladina regulativa uglavnom izostaje, komercijalne laboratorije efektivno postavljaju svoja pravila, često dajući prioritet profitu iznad javne bezbednosti. Bendžio upozorava da je ovaj &quot;laissez-faire&quot; igranje vatrom - ne samo zbog obmanjujućeg pona&scaron;anja već i zato &scaron;to bi AI uskoro mogla da omogući stvaranje &quot;izuzetno opasnog biolo&scaron;kog oružja&quot; ili drugih katastrofalnih rizika.Phonlamai Photo / Shutterstock.comLawZero ima za cilj da izgradi AI koja ne samo da odgovara korisnicima već i transparentno razmi&scaron;lja i označava &scaron;tetne rezultate. Bendžio zami&scaron;lja modele koji nadziru i pobolj&scaron;avaju postojeće sisteme, sprečavajući ih da deluju obmanjujuće ili izazivaju &scaron;tetu. Ovaj pristup je u o&scaron;troj suprotnosti sa komercijalnim modelima, koji prioritet daju angažmanu i profitu iznad odgovornosti.&quot;Najgori scenario je izumiranje čovečanstva. Ako izgradimo AI koja je pametnija od nas i nije usklađena sa nama i takmiči se sa nama, onda smo u su&scaron;tini gotovi&quot;, rekao je Bendžio.

Kum veštačke inteligencije: "Najgori scenario je izumiranje čovečanstva"

3 Komentari