Danielle Citron, a Bostoni Egyetem jogászprofesszora, polgárjogi szakértő a júliusi Ted Summit konferencián beszélt arról, milyen negatív társadalmi hatásokkal jár a deepfake és a hasonló, a valóságtól szinte megkülönböztethetetlen áltartalmak terjedése a globális médiában.
A politikai lejáratás hatásos, új eszköze
Mint meséli, először akkor szembesült a jelenséggel, amikor tavaly áprilisban egy különös és sokkoló videóra bukkant a világhálón. A felvételen Rana Ayyub indiai újságírónő szerepelt, aki arról vált híressé, hogy leleplezte kormányának korrupciós ügyeit és az országban folyó emberi jogi visszaéléseket. A húsz másodperces videón Ayyub szex közben volt látható, holott – természetesen – soha életében nem készült róla hasonló pornográf felvétel.
Később Citron meginterjúvolta Ayyubot készülő könyvéhez, amely a szexualitás és a magánélet témáját járja körül. A beszélgetésben szóba került a hamis szexvideós incidens. Mint az újságírónő elmondta, a lejáratás sikeres volt: a videót több mint negyvenezren osztották meg az interneten, őt pedig elárasztották a gyalázkodások: a muszlim vallású Ayyubot sokan erőszakkal és halállal fenyegették a videó miatt, mások olcsó cédának állították be. Így próbálják félreállítani azt, aki szembeszegül a nagyokkal és hatalmasokkal – véli Ayyub – különösen, ha nő létére kíván nekimenni a hatalmat birtokló férfiaknak.
Az internetes támadást követően Ayyub élete fenekestül felfordult, hetekig enni és beszélni sem tudott a megrázkódtatástól. Az összes közösségimédia-fiókját törölte, és felhagyott az írással. Az utcára sem mert kimenni, mert attól tartott, hogy egyesek beválthatják a fenyegetéseiket. Az ENSZ Emberi Jogi Bizottsága nyilvános közleményt adott ki, amelyben aggodalmát fejezte ki az újságírónő biztonságával kapcsolatban.
Álszexvideós appként született
Ayyub az internetes szlengben deepfake-nek nevezett technikának esett áldozatul, amelynek lényege, hogy kép- és hangmanipuláció segítségével valószerűnek ható videófelvételeket állítanak elő, amelyben egy adott személlyel akármit kimondathatunk vagy bármilyen kompromittáló helyzetbe hozhatjuk. A jelenség 2018 elején kezdett terjedni, amikor a Reddit egyik felhasználója közzétett egy alkalmazást, amellyel kedvenc sztárjaink arcát helyezhetjük bele pornófelvételekbe. A deepfake ezután robbanásszerű terjedésnek indult – ma már YouTube-videókban kaphatunk segítséget, hogyan alkossunk hasonló kamuvideókat, sőt mobiltelefonos appok segítségével könnyen és gyorsan készíthetünk bárkiről kompromittáló anyagot.
Az emberek ösztönösen elhiszik, hogy az általuk látottak és hallottak igazak, hiszen mindenkiben az a hit él, hogy bíznia kell a szemében és a fülében – véli Citron –, és a deepfake videók ezt használják ki. Szintén ösztönös dolog a botrányos, hihetetlen dolgok iránti vonzódás: felmérések kimutatták, hogy a szenzációhajhász kamuhírek tízszer olyan gyorsan terjednek online, mint a hiteles tartalmak. Mindehhez hozzájön a pszichológusok által megerősítési torzításnak nevezett jelenség, vagyis hogy az emberek előnyben részesítik azokat az információkat, amelyek előzetes feltevéseiket igazolják, tekintet nélkül arra, hogy azok igazak-e vagy sem.
Könnyen globális konfliktusokat okozhat
A deepfake képes rá, hogy komoly emberi és társadalmi konfliktusokat szüljön. Képzeljük el, milyen visszhangot váltana ki egy kamuvideó, amelyen amerikai katonák mondjuk Koránt égetnek Afganisztánban, majd erre válaszként szintén egy álfelvétel, amiben egy ismert londoni imám a katonák meggyilkolására szólítja fel a muszlim közösség tagjait. Volt rá példa, hogy a közösségi médiában terjedő áltartalmak erőszakot szültek, pedig azok többsége még szöveges tartalom volt, nem videó.
A politikai játszmákba is könnyen beleárthatják magukat a deepfake-tartalmak, és alááshatják a demokrácia működését. Mi történne, ha a választás előtti estén kompromittáló hamis felvételek jelennének meg az egyik párt jelöltjéről? Sejthető, hogy sokan meggondolnák, rá adják-e a voksukat. Hasonló a helyzet az üzleti életben: ha egy bank- vagy cégigazgatóról botrányos álvideók kerülnek ki a nyilvánosságba, könnyen megzuhanhat a vállalkozás. Arról nem beszélve, hogy a hasonló botrányok miatt a polgárok még kevésbé fognak bízni a közéleti szereplőkben.
Szakértők szerint a technika fejlődésével hamarosan a mostaninál is nehezebb lesz megkülönböztetni egymástól a valós és a kreált audiovizuális tartalmakat, és ez fordítva is elsülhet: nemcsak a hamist hisszük valósnak, de a valóságba vetett hitünk is megrendülhet. Mivel bármilyen hírre és médiatartalomra rávetülhet a hamisítás gyanúja, könnyen megkérdőjelezhetjük egy amúgy hiteles felvétel igazságtartalmát is. Az ügyben érintett közszereplők pedig könnyen védekezhetnek azzal, hogy fake news-t kiáltanak az őket leleplező anyagokra.
Közösen kell fellépni a deepfake-jelenség ellen
Mit lehet tenni ez ellen? Citron szerint az üzleti szereplőknek, a törvényhozóknak és a médiának egyaránt nagy szerepe van abban, hogy megóvja a világot a deepfake-ek okozta pusztítástól. A közösségimédia-felületeknek ki kell szűrniük és le kell tiltaniuk a deepfake-tartalmakat. Ez persze nem könnyű feladat, hiszen alapos és hús-vér emberek által végzett munkára van szükség ahhoz, hogy megkülönböztethessék egymástól a valódi és az álvideókat, és ez sok pénzbe kerül. Azt is el kell dönteni, mi számít sértő vagy káros tartalomnak. Hol ér véget a vicc, a paródia és a művészi szabadság, és hol kezdődik a kompromittáló, manipuláló hatású hamisítás.
A törvényhozásnak szintén fel kell készülnie a deepfake-tartalmak elleni harcra. Jelenleg igencsak hiányos a törvényi szabályozás az online átverések és mások engedély nélküli megszemélyesítése, illetve a szexuális magánélet kérdésében. Ayyub – mint elmesélte – az álpornóvideó megjelenését követően a rendőrséghez fordult, amely azonban tehetetlennek bizonyult. Citron úgy véli, az USA-ban vagy Európa országaiban ugyanez lett volna a helyzet. A jogász és egy kollégája jelenleg éppen egy olyan rendelet megalkotásán dolgozik, amely az USA-ban megtiltaná, illetve személyazonosság-lopással tenné egyenértékűvé az ártó szándékú digitális megszemélyesítést. A világ más pontjain is elindultak már hasonló kezdeményezések.
De nagy szerep hárul az oktatásra és a felvilágosításra is, aminek egyik legfőbb terepe éppen a média lehet. Az újságíróknak és a tartalom-előállítóknak fel kell hívniuk a figyelmet a fake news és a deepfake-tartalmak veszélyeire, meg kell tanítaniuk a felhasználókat, hogyan szűrjék ki azokat. Arra is meg kell tanítani a nagyközönséget, mennyire ártalmas következményei lehetnek egy – akár csak viccnek szánt – kamuvideónak, és meggyőzni őket, hogy ne terjesszék hatalmas elánnal az efféle anyagokat.
