Deepfakes: Tehnologija s potencijalom i opasnostima

Brzo napredovanje umjetne inteligencije (AI) olakšalo je stvaranje hiperrealističnog, ali potpuno izmišljenog sadržaja. Ove novine u digitalnom svijetu predstavljaju fenomen poznat kao Deepfakes. Nažalost, pojavom ove tehnologije otvorena su vrata zlonamjernim akterima koji nastavljaju koristiti DeepFake sadržaj za širenje propagande, manipulaciju percepcijom javnosti i narušavanje povjerenja u institucije.

U kontekstu Tajvana, DeepFake tehnologija igrala je ključnu ulogu u političkoj manipulaciji i oštećenju ugleda pojedinaca i institucija. Tijekom izbora 2024. godine, ova tehnologija korištena je za stvaranje lažnih video i audio sadržaja s ciljem diskreditacije političkih protivnika. Ovaj fenomen postavlja važno pitanje o etici i sigurnosti u korištenju AI tehnologija.

Što je DeepFake i kako se stvara?

DeepFake predstavlja medije koji proizvodi AI, koristeći tehnike dubokog učenja za manipulaciju stvarnošću. U osnovi, stvara se sintetički sadržaj uz pomoć generativnih protivničkih mreža (GANs), koje se sastoje od dvije neuronske mreže: generatora, koji stvara sadržaj, i diskriminatora, koji ga ocjenjuje, sve dok razlika između stvarnog i izmišljenog ne postane gotovo neprimjetna.

Iako je prvotno nastala kao zabavna tehnologija, njezina pristupačnost i lakoća upotrebe doprinijeli su njezinoj zloupotrebi. Alati poput FakeApp i Nudify omogućavaju zlonamjernim akterima stvaranje uvjerljivog lažnog sadržaja, što nosi značajne rizike za reputaciju, dezinformacije i manipulacije.

Korištenje DeepFake tehnologije u zlonamjerne svrhe

Studije pokazuju da zlonamjerni akteri često koriste DeepFake kako bi stvorili nekonsenzualne seksualne videozapise i slike. U 2023. godini, prema jednom izvješću, gotovo 96% DeepFake sadržaja odnosilo se na pornografske materijale. Ova vrsta sadržaja uglavnom se širi putem društvenih mreža, a rezultati istraživanja potvrđuju da su mladi, uključujući srednjoškolce, često žrtve ovakvih napada.

Osim seksualno eksplicitnog sadržaja, DeepFake se koristi i za lažne aktivnosti koje uključuju poznate ličnosti. U slučajevima prevara putem interneta, identificirani su lažni videozapisi koji uključuju javne figure poput Elona Muska i Brada Pitta koji su se koristili u cilju financijske koristi.

Politička manipulacija putem DeepFake tehnologije

Tijekom nedavnih izbora u Tajvanu, upotreba DeepFake tehnologije dosegla je alarmantne razmjere. Lažni videozapisi o političkim ličnostima, uključujući upravljanje informacijama o korupciji, korišteni su za potkopavanje vjerodostojnosti kandidata i daljnje preusmjeravanje javnog mnijenja. Ovi primjeri ilustriraju kako se DeepFake može koristiti za destabilizaciju političkih sustava.

Na primjer, videozapis koji sugerira da je supruga ukrajinskog predsjednika Volodymyra Zelenskog kupila luksuzni automobil tijekom posjeta Parizu, ubrzo je postao viralni sadržaj, potaknut proruskim influencerima. Takvi incidenti naglašavaju potrebu za pažljivijim nadgledanjem i regulacijom sadržaja na društvenim mrežama.

Odgovor Tajvana na prijetnje od DeepFake tehnologije

Tajvan se suočio s izazovima sličnim onima drugih zemalja, ali je poduzeo konkretne korake u borbi protiv dezinformacija i cyber napada povezanih s DeepFakeom. Vlada je surađivala s platformama društvenih mreža i organizacijama za provjeru činjenica kako bi identificirala i uklonila zlonamjerni sadržaj.

Osim zakonodavnih mjera, postoje inicijative za jačanje digitalne pismenosti među građanima kako bi se potaknula sposobnost kritičkog razmišljanja i bolje prepoznavanje lažnih informacija. Nedavno usvojeni zakoni koriste se za kažnjavanje nekonsenzualnog dijeljenja sadržaja generiranog pomoću DeepFake tehnologije.

Dok Tajvan poduzima mjere protiv DeepFake prijetnji, suočava se s međunarodnim izazovima, dok zlonamjerni akteri, posebno iz Kine, zloupotrebljavaju tehnologiju kako bi podrili političku stabilnost otoka. Ova situacija zahtijeva usklađenu međunarodnu suradnju i inovativne pristupe u smanjenju rizika povezanih s DeepFakeom.

Zaključak

Tehnologija DeepFake, premda nosi potencijal za kreativne i zabavne primjene, također stvara ozbiljne probleme u smislu dezinformacija, reputacijskih napada i osobne sigurnosti. Tajvan je dobar primjer kako se države suočavaju s izazovima koje donosi ova tehnologija. Suočavanje s prijetnjama koje ona predstavlja zahtijeva kolektivne napore vlasti, tehnologije i društva kako bi se odgovorilo na te izazove.