deepfake valóság

Soha el nem hangzott mondatok, le nem játszódott jelenetek, szituációk vagy egy egész világot rettegésben tartó összeesküvés-elmélet – ez csak néhány olyan utópisztikus jelenség, amely mára már valós alakot öltött, és úgy hívják: deepfake. Dr. Veszelszki Ágnes nyelvészt, kommunikációkutatót, az NKE tanszékvezetőjét arról kérdeztük, hogy ez a mesterséges intelligencián alapuló alkalmazás hogyan tudja befolyásolni az interneten megjelenő információk igazságtartalmához való viszonyunkat. 

Egy viszonylag új keletű alkalmazás a deepfake, pontosan mire képes ez a technológia?

A deepfake ultrarealisztikus médiamanipulációt jelent, amely a képi vagy hanginformációk, illetve videók meghamisítására alkalmas a mesterséges intelligencia segítségével. Ennek alkalmazásával létrehozhatók olyan módosított videók, amelyekben a szereplők olyan dolgokat tesznek vagy mondanak, amit egyébként a valóságban nem tennének, nem mondanának. Ezekben a kisfilmekben úgy módosítják az audiovizuális tartalmakat, hogy ahhoz a szereplők nagy valószínűséggel nem járultak hozzá. A deepfake először 2017-ben jelent meg, az interneten, mégpedig a Reddit nevezetű platformon, ahol felnőttfilmes videókat közöltek ismert színésznők arcával. Ezt úgy kell elképzelni, hogy az ő arcuk szerepelt a videókban, miközben az ott látható test, amely részt vett az aktusban, valójában nem az övék volt. Ezek a videók részben a színésznők lejáratására szolgáltak, részben pedig arra, hogy az ilyen típusú filmekre fogékony közönséget szórakoztassák. A pornó jellegű deepfake még mostanában is jellemző, de ezekben már nem csak ismert emberek arcát montírozzák rá mások testére. Ennek a jelenségnek már neve is van, mégpedig a bosszúpornó. Általában akkor alkalmazzák, amikor egy párkapcsolat megromlik, és az egyik, az elhagyott fél bosszút akar állni a másikon, ezért egy videóban odamontírozza az expartnere arcát egy videóban szereplő testre, hogy ezzel lejárassa vagy pedig akár megzsarolja a másikat.

Ám a deepfake nem maradt meg ezen az obszcén szinten. Milyen egyéb esetekben alkalmazzák még?

Most már gyakorlatilag bármilyen típusú tartalmat el lehet a segítségével készíteni, és a kezdeti káros következményekkel szemben a deepfake-nek nemcsak negatív, hanem akár pozitív hozadéka is lehet.

Sajnos azonban még mindig jelentős a negatív esetek száma: használják csaláshoz, zsaroláshoz vagy lejáratásra.

Erre láttunk már példát az orosz–ukrán háború kapcsán is, mind az orosz, mind az ukrán vezető esetében, amikor a nevükben készített deepfake videókban megadásra szólították fel a saját csapataikat. A videókészítők így próbálták a háború menetét megváltoztatni vagy befolyásolni. De a kétes eredetű tartalmakkal zsaroltak már üzletembereket is, csaltak ki tőlük nagyobb összegeket. Ám a deepfake-nek nem csak veszélyei vannak. Már a filmipar is használja például egy szereplő megfiatalítására vagy öregítésére, sőt akár halott színész feltámasztására, de alkalmazzák az e-kereskedelemben is, így a mesterséges intelligencia segítségével vásárlás előtt föl lehet próbálni egy ruhát, és akár 360 fokban is megnézhetjük, hogy az adott termék rajtunk hogyan mutatna.

De kísérleteznek a használatával a múzeumpedagógiában és az oktatásban is, amikor Dalí vagy Picasso magyaráz a művészetről egy művészettörténeti órán vagy egy múzeumban, de ha lenne elegendő képfelvétel Petőfi Sándorról, akkor ő is elszavalhatná a diákoknak egy videón a Nemzeti dalt. 

A deepfake videók hogyan befolyásolják az igazsághoz, a valósághoz való hozzáállásunkat? Egy ilyen videót látva hogyan tudjuk eldönteni, hogy az manipulált vagy sem?

Ezt igen nehezen, és egyre nehezebben lehet eldönteni, de vannak különböző eljárások, amelyek segíthetnek. Az ember egy új tartalom láttán alapvetően próbál a saját józan paraszti eszére hagyatkozni, és elgondolkodik azon, hogy amit lát, az vajon valóban megtörténhetett-e.

Ha túlságosan szenzációszerű, ha túlságosan hihetetlen és valószínűtlen egy hír vagy egy videó, akkor érdemes elkezdeni gyanakodni.

Ez az első lépés, amit azonban nehezít, hogy a sajtóban és a közösségi médiában is folyamatosan szenzációszerű hírekkel találkozunk, ami eltompíthatja ezt a fajta egészséges gyanakvásunkat. A másik, amit érdemes megtenni, amikor kétes eredetű vagy gyanús videóval találkozunk, hogy megnézzük a forrást, vagyis azt, hogy honnan származik, és ki az, aki megosztotta. A forrás rendszerint árulkodik a tartalom megbízhatóságáról. Ha ezen a szűrőn is átmegy az adott tartalom, akkor is érdemes tovább gondolkodni, hiszen lehetnek olyan technikai jelek, amelyek leleplezőek. A nagyon-nagyon jó minőségű deepfake videók megtévesztőek lehetnek, ám a kevésbé erőforrás-igényes kisfilmeken könnyen fel lehet fedezni bizonyos technikai hibákat. Ilyen lehet például, hogy kevesebbet pislog az illető, furcsán elválik a nyaka és a feje, de árulkodó lehet a szem- és a kézmozgása is: ha ismétlődő mozgásokat is látunk, az gyakran arra utal, hogy gépi úton hozták létre a videót. Szintén egyszerűbb manipulációra utaló jel, ha pixeles a tárgyak széle, vagy a személlyel együtt megmozdulnak a háttérben lévő tárgyak.

Bár hozzá kell tenni, a mesterséges intelligencia rohamos fejlődése révén egyre megtévesztőbb deepfake-tartalmak látnak napvilágot.

További lehetőségként meg kell említeni, hogy az MI lesz majd a segítségünkre abban, hogy a hamis tartalmakat felderítsük. Ez azt jelenti, hogy lesznek olyan programok, alkalmazások, amelyek kifejezetten azt a célt fogják szolgálni, hogy a manipulált tartalmakról lerántsák a leplet.

Jól értem, hogy ma már bárki hozzáférhet a deepfake-et előállító alkalmazásokhoz? 

Egy nagyon-nagyon jó minőségű deepfake videó elkészítéséhez sok erőforrás szükséges, ám egy viszonylag egyszerű képet és videót bárki el tud készíteni. Gondoljunk csak arra, hogy legutóbb mennyi mindenki jelent meg Barbie-ként, amihez elég volt csak a saját képmásukat feltölteni egy (egyébként adathalász) applikációba, korábban pedig azok a táncos-zenés videók lepték el az internetet, amelyekben a szereplők arcának kicserélésével máris bárki táncolhatott és énekelhetett egy-egy videóklipben. Tehát, ha egyedi és kiemelkedő minőségű videót szeretne valaki létrehozni, ahhoz több anyagi és időráfordítás szükséges, de szinte bárki számára elérhetők az ilyen típusú alkalmazások.

Ha valaki zsaroláshoz használja a deepfake-et, bűncselekményt követ el. Ebben az esetben a sértettnek van lehetősége jogi útra terelni a történteket?

Igen, ekkor is érvényesíthetők a büntető törvénykönyv idevonatkozó passzusai. Ilyen szempontból nincs különbség bűncselekmény és bűncselekmény között, bár ami különös nehézséget jelenthet a rendőrségnek vagy a nyomozó hatóságoknak, hogy föltárják, ki volt az online terjesztett videó valódi elkészítője. 

A deepfake-jelenség hogyan befolyásolja a jövőben a fiatalabb generáció médiafogyasztását, a hírekhez, a valósághoz való viszonyulását?

Azt gondolom, ez a folyamat nem a jövő kérdése, hiszen már elkezdődött, éppen a szemünk előtt zajlik. Azok, akik úgy nőnek fel, hogy az online világ a kezdetektől a rendelkezésükre áll, már nem különítik el egymástól az offline és az online valóságot: számukra a kettő együtt létezik, nem két külön szféra. Ennélfogva másképpen tájékozódnak, és mást tartanak hiteles forrásnak, mint a korábbi generációk.

A kutatások kimutatták azt is, hogy a fiatalok szkeptikusabbak a tartalmakkal szemben, éppen ezért nem kell őket annyira félteni, mint amennyire ezt szeretik a borúlátó előrejelzések megtenni.

Nyilvánvalóan az idősebb korosztályoknak segíteniük kell őket az offline tapasztalataikkal, ám ettől függetlenül ők nagyrészt tisztában vannak azzal, hogy nem mindig a valóságot tükrözi az, amit látnak az online térben.

Mondhatjuk, hogy nekik ösztönösen megvan az a képességük, amivel különbséget tudnak tenni, vagy kritikusabban tudják szemlélni az álhíreket és a valóságot?

Ez nagyon sok tényezőtől függ, azt azonban kijelenthetjük, nem életkori sajátosság, hogy valaki az álhírek és a valós információk között különbséget tud-e tenni vagy sem. Ezt nemzetközi és saját kutatások is alátámasztják. Nem demográfiai oka, sokkal inkább a közösség hatása rejlik amögött, hogy valaki mit hisz el, és mit nem. Ha valaki belekerül egy olyan csoportba, amely álhíreket, összeesküvés-elméleteket terjeszt, és ezekben elkezd hinni, akkor a későbbiekben is viszonylag kritika nélkül el fogja hinni a további álhíreket. A közösség hatása mellett fontos tényező továbbá, hogy milyen forrásokból tájékozódunk, milyen forrásokat tartunk hitelesnek vagy éppen hiteltelennek.