Tragačev podkast: Kloniranje glasova

Da li ste gledali neku od novijih sezona Simpsonovih? Glumica koja pozajmljuje glas Mardž imala je 39 godina kada je serija startovala. Danas, u 36. sezoni, Džuli Kevner ima 75 godina, što se i te kako oseti. Vizuelni prikaz junakinje se već decenijama ne menja – plava kosa nije osedela, a na čelu se nisu pojavile bore. Samo glas, koji je tanji i često puca, odaje da vreme neumitno prolazi.

Razvoj AI tehnologije nudi potencijalno rešenje: da li bi se materijal iz starih epizoda mogao koristiti za izradu kloniranog glasa koji bi delovao svežije i podmladio Mardž? Da li bismo, po istom modelu, mogli da "oživljavamo" glasove pokojnih glumaca i da ih ugrađujemo u nove filmove i reklame? Servisi za kloniranje postaju sve dostupniji i već se koriste u industriji zabave, ali i u industriji lažnih vesti i marketinških prevara, a razliku između autentičnog i lažnog sve je teže prepoznati.

Konstrakta na ijekavici

Portal Radio-televizije Srbije uveo je u oktobru 2020. godine opciju iščitavanja tekstova glasom Dragana Vučelića, voditelja poznatog po dobroj dikciji i prijatnom glasu, kojeg verovatno znate po "Kulturnom dnevniku". Softver je pozajmio element Vučelićevog identiteta tako što je na prigodnom uzorku naučio kako voditelj izgovara određene reči i slogove. Rezultat je solidno iščitavanje većine tekstova, iako nisu retki problemi sa stranim imenima i skraćenicama. Da bi ovaj sistem proradio, voditelj nije morao da pred mikrofonom izgovori sve reči iz Rečnika Matice srpske, u svim njihovim padežima, rodovima, brojevima… Ne, neophodni imput daleko je manji, a s razvojem AI modela proces se dodatno pojednostavljuje.

Tu su, takođe, i brzinski servisi za kloniranje glasova, koji još uvek ne daju uverljive rezultate za srpski jezik. U novom izdanju "Tragačevog podkasta" isprobali smo Resemble AI, koji obećava kloniranje na osnovu dvadesetak sekundi materijala (konkretno – priče o omiljenom jelu), ali rezultati su daleko od savršenih.

Još je lošija situacija s kloniranim glasovima u prevarantskim reklamama s dipfejk videima, koje – prema iskustvu FakeNews Tragača – uglavnom kreiraju ljudi van našeg govornog područja. Tako smo imali priliku da vidimo lažnog doktora Nestorovića i lažnu Konstraktu, kako na hrvatskom jeziku reklamiraju "metodu koja liječi prostatu", tj. "metodu koja liječi bolne zglobove". Oni koji stvaraju ovakve manipulacije suštinski proveravaju koje se ličnosti najčešće dovode u vezu sa zdravstvenim temama, ali se ne udubljuju previše u kontekst, jer ga ne prepoznaju. Otud kao rezultat imamo prevare koje su uočljive već na prvi pogled.

Prepoznavanje lažnih glasova

Nenad Kuzmanović, profesor sa Fakulteta tehničkih nauka u Novom Sadu i ekspert za dizajn zvuka, objašnjava kako prepoznati klonirane glasove: "Šta je prva i najbitnija stvar? To je kvalitet snimka. Ti brzi, jeftini vojs klonovi su tehnički vrlo low-fi. Vidite da je u pitanju prevelika kompresija, kao neki vrlo loš mp3".

Kuzmanović preporučuje onima koji žele da istraže da li je nešto klonirani glas da prvo poslušaju sve te vojs klon servise, tako što će na Jutjubu pregledati prethodno dobijene rezultate. Čak i ako niste tehnički potkovani, uočićete zajedničku crtu tih sadržaja – a to je upravo low-fi (low fidelity) – loš kvalitet zvuka, uz pucketanje, neprirodan tok, s ograničenim opsegom frekvencije. Osim na kvalitet zvuka, kaže Kuzmanović, treba obratiti pažnju i na sam govor i kontekst – ko je šta rekao i kome to ide u prilog.

Kloniranje glasova našlo je primenu i u muzici. Profesor Kuzmanović je analizirao slučaj gde je neko ugradio svoj glas u tuđu, postojeću pesmu: "Uzeo sam originalnu pesmu tog benda, pa je uporedio sa snimkom sa televizije, i obe pesme sam tako razložio po kanalima. Poređao sam sve trekove u audio-sekvencer i video da je u drugom slučaju glas u savršenom sinku, da je sve savršeno, a to je nemoguće". Ova neprirodna odlika bila je jasan dokaz da je drugi snimak proizvod manipulisanja zvukom.

Modeli (zlo)upotrebe

Budućnost na ovom polju može delovati i zabavno i zastrašujuće. U godinama pred nama možda ćemo moći da gledamo automatski sinhronizovane filmove na srpskom, ili da slušamo audio-knjige čitane glasom našeg omiljenog voditelja. Ali postoje i mračnije opcije – virusi koji kreiraju lažne glasovne poruke na osnovu naših, postojećih, a onda i zloupotreba glasova preminulih ličnosti.

Tehnologija kloniranja glasova brzo napreduje, a sa njom i etička pitanja o identitetu, autentičnosti i pristanku. Trenutno je idealno vreme da se učimo prepoznavanju "lažnih" glasova na srpskom jeziku, jer su poprilično nesavršeni, ali to neće dugo biti slučaj. U četvrtoj epizodi "Tragačevog podkasta" otkrivamo dodatne trikove za prepoznavanje kloniranih glasova, slušamo kako Homer Simpson izvodi pesme Nede Ukraden, ali i kako je AI "od nule" kreirala džingl za našu emisiju.

Projekat finasira Evropska unija kroz program „Innovation.Media.Minds.: EU Podrška javnom
medijskom novinarstvu na Zapadnom Balkanu“ kojeg realizuje Gete-Institut u ime Evropske komisije
u saradnji sa implementacionim partnerom DW Akademijom.

Za ove sadržaje isključivo je odgovorna Novovsadska novinarska škola, a izneti stavovi ne izražavaju
nužno stavove Evropske unije.