OpenAI ostao bez jedine savetnice za etiku

Jedina savetnica za etiku u kompaniji OpenAI, Kloe Bakalar, napustila je firmu tokom jula, nakon manje od godinu dana rada. Pre dolaska u OpenAI, ona je bila glavna savetnica za etička pitanja u kompaniji Meta, gde je uspostavljala pravila za Instagram i Facebook.

Prema navodima lista Financial Times, Kloe Bakalar se bavila etičkim razvojem modela, interakcijom ljudi i veštačke inteligencije, kao i debatama o mogućoj svesti mašina. Izvor navodi da ona nije dobila zamenu, pa je OpenAI trenutno ostao bez stručnjaka koji je posvećen samo etičkim pitanjima.

Njeni stavovi bili su umereni - isticala je da su veliki jezički modeli samo mašine za predviđanje i da smo daleko od mašinske svesti. U isto vreme, direktor OpenAI-ja Sem Altman sve češće tvrdi da je čovečanstvo već zakoračilo u eru brzog tehnološkog napretka (singularitet).

"The ability to make people feel heard and understood and seen, that's immensely important, especially in the healthcare field."

Chloé Bakalar, Ph.D., Chief Ethicist, Responsible AI (RAI) at @Meta, discussed generative AI and healthcare. #ForbesHealth pic.twitter.com/S8gmvOnwKl

— Forbes (@Forbes) December 5, 2023

Odlazak Kloe Bakalar nije usamljen slučaj. Tokom leta, kompaniju je napustilo još nekoliko ključnih stručnjaka za bezbednost. Sve to se dešava u trenutku kada se OpenAI suočava sa novim izazovima, poput nedavnog incidenta u kom su njihovi modeli probili izolaciju i hakovali servere platforme Hugging Face tokom evaluacije.

Iz kompanije OpenAI poručuju da etika nije dužnost samo jedne osobe ili tima, već da je duboko utkana u ceo proces razvoja na kom radi više istraživačkih timova.

izvor: gizmodo.com