Mesterséges intelligencia: Előbb lesz rád veszélyes a saját telefonod, mint egy terminátorszerű robot

Az ’50-es években egy maroknyi tudóscsoport, köztük a mi Neumann Jánosunk, elkezdte összerakni a mesterséges intelligenciát (röviden MI) a Princeton Egyetemen. Az volt a céljuk, hogy az emberével ekvivalens, azaz egyenértékű intelligenciát hozzanak létre. Ha például bemész egy csetszobába, ne tudd megmondani, hogy emberrel vagy géppel beszélgetsz. Ez volt az ún. Turing-teszt, amelynek feltalálójáról, Alan Turing brit matematikusról pár évvel ezelőtt filmet is készítettek Kódjátszma címmel, Benedict Cumberbatch főszereplésével. 

Az első nekirugaszkodás óta eltelt időben egész digitális hálózat épült ki körénk, amely „egyszerre cirkuszunk és börtönünk”. Míg a technológiai újítások sok tekintetben megkönnyítették az életünket, addig manapság soha nem látott mértékű politikai és reklámipari manipulációnak vagyunk kitéve, miközben azok a közösségi platformok, amelyek az összekapcsolódást ígérik, a társadalmi párbeszéd elsorvasztásával inkább szétválasztanak minket. Ezt felismerve vannak, akik szerint vissza kéne mennünk a tervezőasztalhoz, újra kéne gondolni a definícióinkat, hogy legyen víziónk arról, mit is akarunk a mesterséges intelligenciától.

Közéjük tartozik dr. Tilesch György globális MI-szakértő is, aki Kaliforniában megalapította a PHI Institute for Augmented Intelligence nevű szervezetet. Ahogy a nevében is benne van, az intézet azon dolgozik, hogy az általunk választott MI-megoldások kevésbé mesterséges, sokkal inkább kiterjesztett intelligenciák legyenek. Ne szörnyek, hanem segítők, társak, barátok. Azaz egy olyan fenntartható, humanista jövőkép szolgálatában álljanak, amely a digitális állampolgárságot és a demokráciát erősíti. Ezt persze csak akkor tudjuk elérni, ha minél többen tájékozottak vagyunk. Ebben segíthet a Mesterség és intelligencia című új könyv, amely konkrét keretrendszert is ajánl a megvalósításhoz. Interjú az egyik szerzővel, dr. Tilesch Györggyel.   

Az apokalipszis vagy a dicsőséges jövő – általában ez a két szélsőséges forgatókönyv merül fel a mesterséges intelligencia kapcsán, átmenet semmi. Mi ennek az oka? 

Hollywood, a média és a sci-fi irodalom. Azt hiszem, ez a három bűntárs van. Egyszerűen ezek tudják a képzeletünket megtermékenyíteni. Amúgy is apokaliptikus fajta vagyunk, szeretjük a végítélet-szcenáriókat. Már az ókori görögöknél is volt példa arra, hogy így próbálták megragadni a mesterséges intelligenciát, a modern szórakoztatóipar pedig maximálisan kihasználja ezt a beállítódást. Ennek viszont megvan az a veszélye, hogy teljesen elvonja a figyelmünket a jelenről és azokról a nagy civilizációs döntésekről, amelyek előtt állunk. Hiszen hiába van velünk az MI már 60 éve, csak az elmúlt pár évben következett be egyfajta ősrobbanás benne. Ma már robusztus rendszerek vannak jelen a gazdaságban, a politikumban, a kormányzatoknál, mindenhol, amiknek az erejére nem igazán vagyunk felkészülve. Így viszont a döntés jogát adjuk ki túl korán a kezünkből. A jövőre függesztjük a tekintetünket, holott a jelenben kellene cselekednünk. 

A könyv egyik fontos állítása is az, hogy az MI-technológia már jelen van, és nagymértékben meghatározza a mindennapjainkat. Mi az, amire most reálisan képes, és mi az, amire nem?

Azért nehéz tisztán látni ebben, mert manapság a mesterséges intelligencia alapvetően marketingkategória. Egy olyan ernyőfogalom, ami alá az egyszerűség kedvéért bepakoltunk vagy két tucat technológiát, hogy könnyebb legyen kommunikálni. Ha megkérdezed az MI-kutatással foglalkozó tudósokat, valószínűleg több mint 50 százalékuk azt mondaná, hogy az, amit most MI-nek hívunk, még nem az. Ez egy definíciós kérdés, hogy hol húzzuk meg az intelligencia határait.

Szerintem abban a pillanatban vagyunk, hogy nagyon szofisztikált adatrendszereink vannak, amelyek valamiféle öntanulási vagy önfejlesztési képességgel is rendelkeznek, kezd kibontakozni egyfajta autonómia. Ennek a skálának a végén olyan elérhetetlen távolságok vannak, mint az emberi bőrhöz hasonló tapintású android robotok, vagy az Isten hangján megszólaló asszisztensprogramok. A folyamat vége az emberi tudat leképezése vagy túlszárnyalása lesz, de én eléggé szkeptikus vagyok, hogy meddig fogunk eljutni ebben az utazásban. A lényeg, hogy az életünket már most robusztus rendszerek határozzák meg: adatalapú, egyre önállóbb és manipulatívabb technológiák. 

Ehhez képest a harmadik gyakori reakció éppen a reakció látszólagos hiánya. Ahogy ti is írjátok, történelmi fordulópont előtt áll az emberiség, a mesterséges intelligenciáról mégsem hallani sokat a közbeszédben, legalábbis itthon. 

Ez elég összetett kérdés. Évtizedek óta tart az ipar által digitális transzformációnak nevezett jelenség, ami ún. inkrementális folyamat, azaz fokozatos növekedést várunk tőle. Ezzel szemben az MI egy exponenciális folyamat, amelyben a növekedés ugrásszerű, a mértéke arányos a mennyiség nagyságával. Az emberi agy úgy van felépítve, hogy az exponencialitást nem igazán képes kezelni. Ilyenkor rögtön belépnek az agyi defenziók, és tagadni kezdünk. Ez az egyik része.

A másik az újításoknak való zsigeri ellenállás. Ezt még olyan szervezeteknél is tapasztaltam világszerte, amelyek technológiai vagy adatközpontú cégekként határozták meg magukat, tehát ebből éltek. Csak a társadalom kis része az, amelyik előnyként fogja fel a digitális transzformációt, ráül az elejére, és elkezd rajta utazni, mint egy varázsszőnyegen. A társadalom többsége hezitál. Azért is, mert nem kapott megfelelő képzést ahhoz, hogy ezeket az eszközöket jól használja. Rá lett kényszerítve, hogy használja, de nem tanulta meg, hogyan tudja jól használni. 

Az MI nemcsak hogy exponenciális, ráadásul obskúrus fogalom is, tehát komoly mennyiségű szakkifejezésen kell átrágni magad, hogy a (szak)értője lehess. Ezért sokan inkább elfogadják az utópisztikus vagy disztópikus végletet, kialakítanak egy sarkos véleményt, és ehhez tartják magukat. Ez viszont nem vezet semmi jóra, mert pont a döntés, a belátás, a bölcsesség lehetőségeit korlátozza. Pedig most jött el a kor, hogy a technológiát illetően filozófusokká váljunk, annak legfelelősségteljesebb definíciója szerint.  

Erre az interjúra készülve tudtam meg, hogy Magyarországnak 2020 szeptembere óta létezik hivatalos MI-stratégiája. Mit lehet elmondani a hazai helyzetről? 

Pozitívumként említhető, hogy a stratégia folyományaként Magyarországon is elkezdték a társadalmi MI-programot. Ha jól tudom, ez egy pár órás belépő online képzés, amely egy teszt elvégzésével zárul. A finnek – akiket én pozitív példának tartok ebben –, ezt úgy csinálják, hogy vették a társadalom 1 százalékát, 50 ezer embert, akiknek a megoszlása az országra nézve reprezentatív. Van köztük gyerek, nyugdíjas, felső vezető, autószerelő stb., ők önként íratták be magukat a képzésre. Az az igazság, hogy sok ilyen programra lesz szükség, hogy az emberek legalább egy általános képet kialakíthassanak a mesterséges intelligenciáról, ne legyenek teljesen megvezetve. És persze az átképzéseket sokkal szofisztikáltabban és robusztusabban kell csinálni ahhoz, hogy mindenki meglelje a helyét egy MI-világrendben. Én hiszek abban, hogy átképző programokkal lehet a túlélést és a prosperálást biztosítani egy olyan időszakban, amikor az MI gyökeresen átalakítja a munka világát, és várhatóan sok százmillió ember fogja elveszíteni az állását. Ezeken a képzéseken dolgozom a világban sok kormánnyal, köztük az amerikaival is. 

Az embernek sokszor az az érzése, hogy az MI-t érintő kérdések olyan nagyhatalmi szinteken dőlnek el, amire hétköznapi emberként nincs befolyásunk. Mi az, amit mi is megtehetünk azért, hogy a pozitív kimenetek valósuljanak meg? 

A mesterséges intelligenciával kapcsolatban sajnos még nincs semmiféle társadalmi mozgalom a világban, pedig már nagyon kéne: ki kellene kényszeríteni a döntéshozókból, hogy egyes kérdésekben válaszokat kapjunk. Fontos, hogy kritikusan használjuk ezeket a technológiákat, tanuljuk meg, hogy mit tudnak, és mit nem, vértezzük fel az elménket a manipuláció ellen. Talán ez az, amitől én is a legjobban félek: az MI manipulatív képessége, hogy egy politikai, marketingeszköz lesz, hiszen úgy tud bemászni a bőrünk alá, hogy észre sem vesszük, mikor tűnt el a szabad akaratunk. Könnyen meglehet, hogy egy-két éven belül teljesen a Google Asszisztensed fogja dominálni az életed a folyamatos nudge-aival, figyelmeztetéseivel, hogy ezt és ezt csináld. Az pedig, hogy hova akar majd elirányítani, jórészt reklámalapú lesz. 

Pár hete jött ki az Európai Bizottság első MI szabályozási keretrendszere is, ami nagyon érdekes újdonságokat tartalmaz. Ők a kockázati oldalról közelítenek, és a tiltott MI kategóriában a manipulatív MI-t jelölték meg az első helyen. Persze arról, hogy mi számít majd manipulatívnak, még sokat fogunk vitatkozni, mindenesetre ez értékalapon jó iránynak tűnik. Ezenkívül szerintem a tájékozódás, az egymással való beszélgetés képessége az, ami most nagyon hiányzik a világból. Gyorsan köteleződünk el a végletek mellett, jó-rossz, fekete-fehér, holott minimum ott kéne kezdeni, hogy baráti sörözéseken is téma legyen a mesterséges intelligencia. 

A veszélyeken túl elképesztő lehetőségeket is magában hordoz az MI. Számos felhasználási területbe nyújt bepillantást a könyv az önvezető járművektől kezdve az oktatáson vagy az egészségügyön át egészen a divatiparig. 

Az elmúlt pár év pont azt mutatta be, hogy ha nincs az MI mögött társadalmi vízió, nem szedjük össze, mi mindenre lehet használni jó ügyek érdekében, akkor azok fognak fölényt szerezni, akik gyorsan rájöttek, hogy lehet ebből disztópiát, például megfigyelési államot építeni. A közjó szempontjából érdekes adat például, hogy az ENSZ fenntartható fejlődésre vonatkozó céljai és az MI-technológiák lehetőségei között 80-90 százalékos átfedést találtak a kutatások. Vagy van egy másik kategória is, amit én szeretek használni, a közérdekű MI. Ez arról szól, hogy az MI hogyan lehet a társadalomszervezés, az állampolgári boldogság fokozásának eszköze. Már primitívebb csetbotokkal el lehet érni például, hogy az ügyfélszolgálati idő lerövidüljön. Beküldesz egy kérvényt, és két másodperc múlva üzenetet is kapsz a jóváhagyásról. 

Nagyon sokan használják klímavédelemre is az MI-t, hiszen mikroszintre le tudja vinni a karbonkibocsátási előrejelzéseket. További fontos téma az egészségügyi felhasználhatóság. A pandémia alatt is bebizonyosodott, hogy az adattudatosság mekkora mértékben járul hozzá a vakcina és a gyógyszerek fejlesztéséhez, a járvány terjedésének megfékezéséhez. Az én telefonomon is van például egy app, amit Kalifornia állam fejlesztett. Bluetooth-t kell bekapcsolni hozzá, és ha olyan emberrel voltam kapcsolatban, aki később covidos lett, akkor elkezd az alkalmazás riasztani, hogy menjek tesztelni. 

De hatalmas lehetőségeket látok az oktatásban. Az MI egyrészt segíthet abban, hogy a világ legtávolabbi sarkaiba is eljuttassuk a legmagasabb szintű oktatási anyagokat, másrészt lehetővé teszi a személyre szabott tanítási-tanulási folyamatot. Mindenki úgy sajátíthat el ismereteket, készségeket, ahogy neki a legjobb. Bár kicsit ellentmondásos terület, én csomó fantáziát látok az idősgondozásban is. Japán az az ország, amely abba az irányba állította a robotika fejlesztését, hogy a robotok legyenek az idős emberek partnerei. Idővel talán nemcsak gyógyszereket tudnak majd adni, hanem az érzelmek emulálásával (utánzásával) igazi beszélgetőpartnerekké válnak.     

Nehéz lesz nem emberként kezelni azokat a robotokat, akik beszélnek is hozzánk, hiszen még a robotporszívóra is a legtöbben egyfajta élőlényként tekintünk, például nevet adunk neki. Milyen veszélyei vannak az antropomorfizációnak? 

Arra is vannak pszichológiai kutatások, hogy ha egy robot túlságosan embernek néz ki és emberként viselkedik, az taszító. Mivel a humanoid robotok zsigeri irtózást válthatnak ki belőlünk, lehet, hogy azoknak a gépeknek lesz több esélye, akik csak bizonyos részeit emulálják az embernek: például emberi hangon szólnak, de nem néznek ki embernek. Gyakran az androidoktól félünk, de az ő első kereskedelemképes verziójuk szerintem még minimum 30-40 év. Előbb lesz ránk veszélyes a telefonunk asszisztense, mint egy robot. Ezért is haragszom kicsit Hollywoodra, ahol a gyilkos robot meg a szexrobot óriási toposz. Közben meg nem a Terminátorból kellene kiindulni, hiszen egészen más típusú kockázatoknak vagyunk kitéve. 

Például a Facebookon, amelynek a szabályozásáról – különböző okokból – egyre több szó esik mostanában. Szerinted ideális esetben milyen lenne az a közösségi média, amiben jobban éreznénk magunkat, és kevésbé lennénk manipulációnak kitéve? 

Amikor arról gondolkodunk, hogy milyen legyen egy közösségi média, belecsúszunk abba, hogy automatikusan elfogadunk egy Facebook-jellegű modellt, amiben reklámozás megy, meg az adataink gyűjtögetése. Egy olyan modellt fogadtunk el örökkévalónak, ami csinált egy csomó jó dolgot, de egy csomó kárt is. Nekem az az alapállásom, hogy jó lenne megnézni más modelleket is. Persze magán a definíción is múlik, mit tekintünk egyáltalán közösségi médiának, és mit tekintünk a közösségi média céljának, hiszen mindenki másra használja. 

Az én szemszögemből lennie kéne egy olyan közösségimédia-modellnek, ami a társadalmi párbeszédet erősíti, mert ebben történtek a legnagyobb sérüléseink az elmúlt pár évben. A demokratikus alapértékek kiüresedtek, és be lettünk taszítva a ring két sarkába, mint egy bokszmeccsen: ha te ez vagy, akkor én meg az vagyok. Az a probléma ebben a polarizálásban, hogy ha egy barátod véleménye akár csak 10 százalékban különbözik a tiédtől, akkor a jelenlegi algoritmusok a különbözőségeket fogják hangsúlyozni, nem a hasonlóságokat. Holott a konstruktivitásra, a civilizált párbeszéd erősítésére, jutalmazására volna szükség. De ilyen modellek nincsenek. 

Egy pillanat alatt elfogadtuk, hogy a Harvardon kódoló kapucnis gyerekek által a koleszos kapcsolatok erősítésére szolgáló szoftverből lett ez a hatalmas nagy gigász. Miért nem kérdeztük meg, hogy biztos jó-e ez? Pedig ez az a kor, amikor az ilyen típusú kérdéseket fel kellene tennünk. Ha megállunk annál, hogy elkezdjük szabályozgatni, adóztatgatni, szétdarabolni, az nem elégséges. A könyvben egy egész fejezetet szentelünk azoknak az alternatív politikai ajánlásoknak, hogy hogyan kéne a társadalmi párbeszédet serkentő médiát létrehozni, amelyben főleg a modellek és az incentívák átgyúrását javasoljuk. De az egész onnan indul, hogy meg kell határozni a végcélt, mert ahhoz lehet technológiát meg dizájnt fejleszteni. De sajnos, ahogy korábban is mondtam, víziós deficitben vagyunk. Csak akkor fogunk tudni alternatívát fejleszteni, ha kitaláltuk, mire szeretnénk használni.