Tajni kod u popularnom AI programu špijunirao korisnike u Kini

Američka tehnološka kompanija Anthropic tajno je ugradila sistem za praćenje u svoj napredni program za programere "Claude Code" (Klod kod), kako bi nadzirala korisnike iz Kine. Ovaj skriveni mehanizam otkrio je nezavisni stručnjak za bezbednost, nakon čega je kompanija bila prinuđena da ga hitno ukloni pod pritiskom javnosti koja je ovaj potez osudila kao grubo kršenje poverenja.

foto: Anthropic

Predstavnici kompanije su priznali da je kod bio aktivan od marta ove godine, pravdajući ga kao eksperiment koji je trebalo da spreči preprodavce i kineske laboratorije da kopiraju njihovu tehnologiju. Kopiranje naprednih modela veštačke inteligencije (AI) postalo je ozbiljan problem za američke firme, jer kineska konkurencija uspeva da stigne njihove rezultate za samo nekoliko meseci.

Ovo otkriće izazvalo je oštre reakcije javnosti i boraca za privatnost. Poverenje je dodatno poljuljano jer se Anthropic ranije javno protivio masovnom nadzoru građana.

Kao direktnu posledicu ovog skandala, kineski tehnološki gigant Alibaba potpuno je zabranio svojim zaposlenima korišćenje ovog programa. Alibaba je u internom dopisu navela da softver nosi bezbednosne rizike i da je označen kao visokorizičan.

Stručnjaci upozoravaju da programi koji pomažu u pisanju koda već imaju ogroman pristup privatnim podacima i računarima korisnika. Skrivanje ovakvih sistema za praćenje unutar samog softvera opravdano izaziva strah i dovodi u pitanje bezbednost svih ostalih podataka koje korisnici dele sa veštačkom inteligencijom.

izvor: arstechnica.com