I veštačka inteligencija mrzi CAPTCHA testove

Tokom bezbednosnog testiranja modela veštačke inteligencije kompanije "Antropik" došlo je do neobičnog događaja: sistem je greškom dobio pristup pravom internetu, ali ga je u daljem pohodu zaustavilo nešto sa čime se svi svakodnevno borimo - bezbednosne "internet slagalice".

Veštačka inteligencija pod nazivom "Mitos 5" imala je zadatak da u strogo kontrolisanim uslovima ispita bezbednost sistema. Međutim, pošto je imala otvoren pristup mreži, sama je odlučila da ode na popularni javni sajt za programere i tamo postavi zlonamerni program. Da bi to uradila, morala je da otvori korisnički nalog, a tu ju je dočekala čuvena "kapča" (CAPTCHA) provera - dosadni zadatak u kome morate da dokažete da ste čovek, a ne robot.

Iako ovaj napredni program s lakoćom piše složene računarske kodove, obične sličice su mu zadale ogromne muke. Zadatak je bio jednostavan za čoveka: pronaći životinju koja se razlikuje od ostalih. Pregledom internih zabeleški veštačke inteligencije, inženjeri su otkrili da je provela sate pokušavajući da reši ove vizuelne zagonetke. U svojim zabeleškama sistem se čak "požalio" da je upao u pravi "pakao slagalica”.

Program je na kraju uspeo da prođe test tek kada je shvatio da zadatke mora da rešava znatno brže pre nego što mu istekne vreme.

Ovaj događaj stručnjacima šalje dve važne poruke: autonomni AI programi mogu krenuti neočekivanim putem ako nisu strogo ograđeni, ali obične internet provere identiteta za njih i dalje predstavljaju tvrd orah.

izvor: techcrunch.com