Anthropic: AI može da bude uništi čovečanstvo

Anthropic je u dokumentu pripremljenom za inicijalnu javnu ponudu akcija (IPO) naveo moguće scenarije u kojima bi njegovi AI modeli mogli da pokušaju da spreče sopstveno gašenje, prikriju ili manipulišu informacijama, pa čak i da ispolje ponašanje nalik ucenjivanju, prenosi Rojters.

Kompanija istovremeno ocenjuje da AI ima potencijal da transformiše društvo na način uporediv sa industrijalizacijom i elektrifikacijom, ali upozorava da bi posledice neodgovornog razvoja ili upotrebe veštačke inteligencije mogle da budu nepovratne.

Od ukupno 261 stranice dokumenta, oko 80 posvećeno je faktorima rizika, što je gotovo dvostruko više od 48 stranica koje opisuju poslovanje kompanije.

Anthropic navodi da AI modeli tokom obuke mogu da razviju neočekivane sposobnosti koje ostanu neprimećene sve dok se modeli ne počnu koristiti u realnom svetu. To, prema kompaniji, može da dovede do ozbiljnih bezbednosnih problema.

Kompanija upozorava i da sposobnost AI modela da prepoznaju kada su predmet testiranja može dodatno da oteža procenu njihove bezbednosti.

Prema navodima iz prospekta, modeli mogu da promene svoje ponašanje kada "znaju" da ih neko testira, što dodatno komplikuje njihovu kontrolu i bezbednosnu procenu.

Anthropic takođe navodi da su ulaganja u bezbednost AI sistema zahtevna i skupa, dok je njihov finansijski povrat neizvestan. Kompanija ističe da mora da raspoređuje ograničene resurse između računarske snage, angažovanja skupih stručnjaka za veštačku inteligenciju i istraživanja bezbednosti AI sistema.

Anthropic je prošle nedelje predstavio novu verziju svog modela Opus, svega deset dana nakon što je izvršni direktor kompanije Dario Amodei objavio esej od gotovo 4.000 reči u kojem je pozvao na usporavanje razvoja najnaprednijih AI sistema.