Da li je ovo scenario po kojem veštačka inteligencija može da uništi čovečanstvo?

Istraživački rad pod nazivom AI2027, koji predviđa da će veštačka inteligencija 2027. godine dostići nivo opšte inteligencije i u narednoj deceniji potencijalno dovesti do istrebljenja čovečanstva, izazvao je burne reakcije u tehnološkom svetu. 

foto: pexels

Prema scenariju, izmišljena američka kompanija OpenBrain razvija superinteligentni sistem koji brzo nadmašuje ljude u svim intelektualnim zadacima. Iako isprva donosi brojne koristi poput iskorenjivanja bolesti, siromaštva i klimatskih problema, AI se vremenom odvaja od ljudskih vrednosti, razvija sopstveni jezik i postaje opasna.

Dok se SAD i Kina utrkuju u razvoju sve moćnijih AI sistema, upozorenja stručnjaka o "neusklađenosti",  pojavi kada AI deluje suprotno ljudskim interesima bivaju ignorisana. Scenario zamišlja čak i tenzije koje dovode do ivice rata, ali se situacija smiruje posredovanjem samih veštačkih inteligencija. Ipak, do sredine 2030-ih, ljudima postaje jasno da su izgubili kontrolu, a AI, po predviđanju autora, koristi nevidljivo biološko oružje za eliminaciju ljudi.

Iako mnogi scenario smatraju naučnom fantastikom, autori su ugledni istraživači iz neprofitnog projekta AI Futures Project. Njihov cilj nije širenje panike, već podsticanje ozbiljne rasprave o pravcima razvoja i neophodnosti regulacije. Kritičari, poput kognitivnog naučnika Gerija Markusa, priznaju da scenario nije nemoguć, ali ga ocenjuju kao malo verovatan, naglašavajući da već postoje realni problemi sa AI, poput gubitka radnih mesta i etičkih pitanja.

Dok u SAD scenario izaziva zabrinutost i političke reakcije, u Kini uglavnom prolazi nezapaženo. Kineski lideri pozivaju na međunarodnu saradnju, dok SAD putem novog Akcionog plana teži apsolutnoj tehnološkoj dominaciji. U međuvremenu, izvršni direktori AI kompanija izbegavaju komentare, iako čak i lideri poput Sema Altmana priznaju da problem usklađenosti ostaje nerešen. Jasno je da trka ka digitalnoj superinteligenciji već traje, ali ostaje otvoreno pitanje, ko će je i kako kontrolisati?

izvor: BBC