Alarm iz Anthropica: Veštačka inteligencija bi uskoro mogla samostalno da se širi

Manji modeli veštačke inteligencije mogli bi do kraja 2026. godine da dostignu nivo sposobnosti potreban za samostalno širenje na uređajima povezanim na internet, uključujući pametne televizore i kućne aparate, procenjuju istraživači kompanije Anthropic u svoj najnovijem blogu.

Takav scenario još nije ostvaren u potpunosti, ali eksperimenti ukazuju na to da pojedini modeli već mogu da obave većinu koraka potrebnih za širenje na druge uređaje bez ljudske intervencije.

U aktuelnom istraživanju, autori Vilijam Džou i Danijel Friman navode da bi zlonamerni AI sistem mogao da se širi kroz mrežu slabije zaštićenih uređaja i koristi njihovu računarsku snagu za sopstveni rad, bez potrebe za pristupom velikim centrima za obradu podataka.

Uređaji poput pametnih kućnih aparata i Android TV uređaja mogli bi da budu deo takvih mreža, naročito ako imaju slabu zaštitu.

Anthropic je upozorio da bi gašenje takvog sistema moglo da bude otežano ako se njegovi delovi nalaze na velikom broju uređaja, bez jedne centralne tačke koja bi služila za isključivanje.

Takvi sistemi mogli bi da budu prilagodljiviji od tradicionalnih računarskih virusa, jer bi AI model mogao da pokuša da pronađe način rada i na uređajima čiji mu hardver i softver nisu poznati. 

U eksperimentima su istraživači utvrdili i da su modeli koji su prenosili beleške o prethodnim pokušajima i greškama poboljšali uspešnost podešavanja rada na novim uređajima.

Istraživanje, međutim, ne pokazuje da trenutno postoji potpuno autonoman AI sistem koji se nekontrolisano širi internetom.

Autori upozoravaju na mogućnost budućeg razvoja takvih sistema, dok istovremeno navode da bi širenje ostavljalo tragove u mrežnom saobraćaju, što bi moglo da pomogne u otkrivanju i izolovanju zaraženih uređaja, navodi Anthropic na svojoj veb stranici.