Tényleg az emberiség ellen fordulhat a mesterséges intelligencia?

Néhány évtizede a science fictionök által vizionizált világ még élénk fantáziával megáldott írók szüleményének tűnt: az űrutazás, a mobiltelefon vagy az intelligens gép, amivel emberi nyelven beszélgethetünk. Ma az újabb és újabb technológiai forradalmak korát éljük. Az interneten pillanatok alatt lefordíttathatunk egy programmal egy idegen nyelvű szöveget többé-kevésbé érthetően, testetlen asszisztensek tanácsát kérhetjük ki újonnan vásárolt porszívónk használatáról, és karnyújtásnyira vagyunk attól, hogy önvezető autók utasai lehessünk. 

Dr. Gyimóthy Tiborral, a Szegedi Tudományegyetem Mesterséges Intelligencia Kutatócsoportjának vezetőjével a mesterséges intelligencia gyakorlati alkalmazásáról, jövőjéről és veszélyeiről beszélgettünk. 

A mesterséges intelligenciára gondolva szinte elkerülhetetlen, hogy lelki szemeink előtt két lábon járó robotok ne jelenjenek meg, pedig a mindennapjainkban jelen lévő technológiáról van szó. 

Maga a megnevezés valóban egy kicsit misztikus, de napjainkban a mesterséges intelligencia nagyon népszerű, sok újságcikk, tévériport szól róla, ezért az emberek többségében már kezd kialakulni egy kép arról, hogy ez egy olyan valami, ami gyakorlatban is alkalmazható megoldásokat produkál. Nyilván egy kicsit megpróbáljuk leutánozni az emberi agy működését, vagy azt, ahogyan az ember működik. Ez volt egykor az álom, de mostanában eléggé kikristályosodtak azok a területek, ahol a mesterséges intelligencia a gyakorlatban is használható eredményeket produkál: ilyenek a gépi tanulás és annak különböző alkalmazásai, a természetes nyelvi feldolgozás, a beszédfeldolgozás, a képfeldolgozás. 

Sokszor talán nem is sejtjük, amikor mesterséges intelligenciával találkozunk. 

Pedig szinte mindenki találkozik vele. Vegyük például a Google Fordítót. A szövegfordítók mögött komoly mesterséges intelligencia alkalmazása áll. Léteznek intelligens asszisztensek, akikkel emberi nyelven tudunk beszélgetni, és akik úgymond értelmes kérdéseket tesznek fel, amikor panaszkodunk a hálózati szolgáltatás minőségére. Vagy ott vannak az önvezető autók: már itt kopogtatnak az ajtónkon. Ez a lehetőség is nagyon sokat köszönhet annak, hogy a gépi tanulási algoritmusok az utóbbi időben robbanásszerűen fejlődtek. 

A Google Fordító, az intelligens asszisztens egyelőre testtelen programok. Vajon találkozhatunk velük a jövőben ember formájú gépekként? 

Az, hogy egy számítógépre ráhúzunk egy emberi formátumot, jó játék. Én úgy gondolom, hogy az adott alkalmazás dönti el, milyen formában jelenik meg az adott robot vagy intelligencia. Vannak olyan robotkísérletek, amikkel mondjuk az emberi mozgást próbálják modellezni. Most már olyan intelligens robotok is léteznek, akik föl tudnak emelni egy tojást anélkül, hogy összetörnék. Lépegetnek, sőt futnak is, vagyis az emberi mozgást tudják valamilyen módon utánozni. 

De ennél talán még érdekesebb, hogy az emberi agyat mennyire tudják utánozni. Meg tudnak-e oldani olyan problémákat, amikről úgy gondoltuk, hogy csak az ember képes rá? Illetve vannak olyan problémák, amiket sokkal gyorsabban, úgymond sokkal intelligensebben is meg tudnak oldani, mint mi, emberek. 

A Szegedi Tudományegyetem Mesterséges Intelligencia Kutatócsoportjának élén ezeknek a gépeknek a tanulásával és az alkalmazásukkal foglalkozik. Hogy kell elképzelni ezt a területet? 

Nagyon büszkék vagyunk arra, hogy a mi kutatócsoportunk a legrégebbi kutatócsoport Magyarországon, több mint húsz évvel ezelőtt alakult. Abban az időben a mesterséges intelligenciára még kicsit ferde szemmel néztek, azt mondták, hogy akinek nincs természetes intelligenciája, az próbál mesterséges intelligenciával foglalkozni. Ez nyilván csak tréfa, de az igazság az, hogy akkor még nem volt olyan népszerű a mesterséges intelligencia, mint napjainkban. Egyrészt voltak elméleti jellegű kutatásaink, főleg a gép tanulásának az elméleti, informatikai problémáival foglalkoztunk. Ezen túl pedig erőteljes irányként bontakozott ki a természetes nyelvi feldolgozás, azon belül is a magyar nyelv feldolgozása, illetve a beszédfeldolgozás mint alkalmazási terület. Akkoriban ez a két vonal volt markánsan jelen. Én voltam a csoport helyettes vezetője, aztán elmozdultam a szoftverfejlesztés irányába, majd mint a mesterséges intelligencia kutatócsoport vezetője tértem vissza. 

Az utóbbi időben a képfeldolgozási irány egy nagyon intenzíven fejlesztett terület a gépi tanulás terén. Sok éles ipari projektünk van multinacionális cégekkel, mesterségesintelligencia-módszereket alkalmazunk képi feldolgozásra. Megjelent egy másik, markáns irány is, ami azt vizsgálja, hogyan lehet biztonságossá tenni ezeket a mesterségesintelligencia-modelleket, mert egyáltalán nem megnyugtató, ahogyan működnek, de sokszor nem tudjuk, hogyan tegyük ezt. Nagyon kockázatos tud lenni olyan modellekre bízni döntéseket – sokszor kritikus helyzetben –, amiknek a működését nem értjük, főként a deep learning esetében. 

Miben más a deep learning, mint az eddigi gépi tanulási módszerek? 

A hagyományos gépi tanulási algoritmusoknál jellemzően a tanulási modellt készítő szakember megpróbál a nyers adatokból olyan jellemzőket származtatni, amelyek alapján pontos döntéseket lehet hozni. Ha viszonylag kevés adat áll rendelkezésünkre, akkor ezek a megoldások felveszik a versenyt a deep learning, vagyis mélytanulás alapú megoldásokkal. Ha sok címkézett adatunk van, akkor a mélytanulási módszerek jóval hatékonyabbak. A deep learninges algoritmusok több lépésben (több rétegben) tanulnak. Maguk próbálják megtalálni azokat a jellemzőket, amelyek alapján a végső modellt felépítik.

Az, hogy nem megnyugtató a mesterségesintelligencia-modellek működése, azt jelenti, hogy esetleg nem jó választ adnak?  

Nem azt mondom, hogy teljesen feketedobozként működnek. Az utóbbi évek nagy áttörését mindenképpen a deep learning jelentette. Megjelent a technológia, a módszertan és az eszközök ahhoz, hogy szinte bárki tudjon deep learninges modelleket fejleszteni. 

Ha van elég adatunk, számítógép-kapacitásunk és megvannak az algoritmusok hozzá, akkor viszonylag egyszerűen taníthatunk egy modellt, ami például alapfelismerési problémákat old meg. Példákat adunk neki, és megtanul egy módszert arra, hogy hogyan lehet mondjuk valakinek az arcát felismerni, vagy urambocsá a közlekedési táblákat. Az önvezető autók például nem létezhetnének, ha nem tudnák automatikusan felismerni őket akár rossz környezeti feltételek mellett is. Ezek az algoritmusok könnyen és nagyon jó hatásfokkal ismerik fel a közlekedési táblákat, ugyanakkor azt is kimutatták, hogy vannak úgynevezett ellenséges példák. Ez azt jelenti, hogy a modellt, ami közlekedési táblákat ismer fel, nem nehéz meghekkelni, ha egy picit változtatunk a képen. 

Vegyünk mondjuk egy stoptáblát, aminek, ha egy pici részét leragasztom, ha az emberi szem számára szinte észrevehetetlen változtatást hajtok végre a képen, akkor a modell nem stoptáblának, hanem mondjuk Hajts be! táblának ismeri fel. Magyarul ezeket a modelleket meg lehet butítani, ellenséges példákkal úgymond zavarba lehet hozni, és így olyan döntéseket hozhatnak, amik abszolút ellentétesek azzal, amire számítunk. Mind el tudjuk képzelni, hogy ez milyen borzasztó problémát jelenthet. Nagyon intenzív kutatás folyik, rengetegen dolgoznak azon, hogy hogyan lehet ezt a problémát megoldani, robusztusabbá tenni ezeket a modelleket, de azért még teljesen megnyugtató megoldásunk nincsen. 

Amikor gépi tanulásról beszélünk, felmerül bennem a kérdés, vajon miben különbözik az emberi tanulástól? 

Ez már egy filozofikus kérdés. Sokan gondolkoznak azon, hogy az az intelligencia, amit megtanul a gép, mennyire az embert modellezi. Maga a folyamat hasonló. A kisgyerek is valószínűleg úgy tanulja meg, hogy mikor eheti meg a cseresznyét, hogy valaki megmondja neki, hogy akkor, amikor piros. Az ember is példákon keresztül tanul meg koncepciókat, döntéseket, szabályokat, amik aztán az életét vezérlik – tehát amitől voltaképpen emberek vagyunk. 

A tanulási folyamat nagyon hasonló a gépek esetében is. Példákat adunk, amiket megcímkézünk: ez jó, ez pedig rossz. Mondjuk ha egy arcfelismerő programnak valakit fel kell ismernie, akkor sok képet adunk az illetőről. Egy idő után megtanulja felismerni az arcát, és egy ismeretlen kép esetén is rá tud jönni, hogy ki az illető. Ilyen értelemben hasonló a tanulási folyamat. Abban viszont egyáltalán nem vagyunk biztosak, hogy a modell leképezi a mi mechanizmusunkat.

Ősidők óta készítenek példádul sakkozógépeket, olyan komputerprogramokat, amik tudnak sakkozni. Manapság is sok olyan van, amelyik már a nagymesterekkel is fel tudja venni a versenyt, de ezeknek a programoknak a többsége úgy működik, hogy sok millió játszmát tápláltak be a komputerbe, a nagymesterek pedig különböző stratégiákat építettek be a számítógépekbe. 

A deep learninges világban viszont úgy tanítottak meg sakkozni egy programot, hogy nem tápláltak be előzetes tudást, hanem gyakorlatilag megmondták, mik a sakk lépései, majd a számítógép önmagával kezdett játszani, és amikor nyert, akkor tudta, hogy aha, ez jó stratégia volt. Úgy tanult meg sakkozni, hogy négy órát játszott, majd megverte a világ addigi legfejlettebb számítógépes sakkozóprogramját. Négyórányi tanulás után. 

Vagyis a gép az önálló döntései következményeiből tanult? 

Ebben az értelemben nyugodtan mondhatjuk, hogy önálló döntéseket hozott, hiszen gyakorlatilag önmagától tanulta meg ezt a folyamatot. Maga választotta ki azt, hogy mik azok a jellemzők, amik alapján egy adott szituációban döntenie kell. 

Azért hoztam fel ezt a példát, mert én is szeretek sakkozni, és volt lehetőségem arra, hogy az interneten elérjem azt a néhány száz példát, amit a deep learninges sakkozógép játszott. Amikor lejátszunk egy ilyen partit, akkor látszik, hogy a gép néha olyan stratégiákat használ, amikre az ember nem is nagyon számít. Én nem vagyok nagy sakkozó, de a nagymesterek is erről számoltak be. 

A gépi tanulás tekintetében születhetnek olyan megoldások, amit mi nem nagyon tudunk megérteni, mert nem a mi gondolatrendszerünk, mintázatunk, emberi tapasztalataink alapján készült föl erre a gép. Bizony, születhetnek itt forradalmian új dolgok. 

A science fiction világában az egyik legnagyobb félelem, hogy a mesterséges intelligencia öntudatára ébred, ami beláthatatlan következményekkel járhatna. Bár azt tudjuk, hogy ez nem történhet meg, tud-e egy gép mégis olyan döntéseket hozni, amelyek az ember ellen fordulhatnak? 

Én remélem, hogy nem, de erre nagyon oda kell figyelni. Nem véletlen, hogy nálam sokkal okosabb emberek hívták fel a mesterséges intelligenciában rejlő veszélyekre a figyelmet. Komolyan kell venni. Megmondom őszintén, hogy ebben a pillanatban nem tudok erre a kérdésre teljesen megnyugtató választ adni, ugyanakkor nem szeretnék vészmadár sem lenni, úgyhogy inkább azt mondanám, hogy vegyük komolyan ezt a kérdést.

Figyeljünk arra, hogy meddig jutnak el ezek az algoritmusok, hogy tényleg ne engedjük ki a szellemet a palackból. 

Ha már a science finctionnél tartunk: a technológia fejlődéséről szóló elképzelések mennyire inspirálják a tudományt? Úgy hírlik például, hogy a mobiltelefont a Star Trek című sorozat ihlette. 

Azt hiszem, sokkal inkább a kutatók belső motivációjáról van szó. Ott vannak előttünk a kutatási problémák, azokból és az alkalmazási oldalukból indulunk ki. A konkrét igények indukálják ezeket az áttöréseket. Például az, hogy legyen önvezető autó. 

Beszélhetünk egy sokkal valóságosabb, kézzelfoghatóbb félelemről is a mesterséges intelligenciával kapcsolatban, mint az öntudatára ébredt gép. Még az én szakmámban is, ami egy kreatív szakma, felmerül a kérdés, vajon lehet-e mindent automatizálni? 

Ez érdekes kérdés, és ez sem lebecsülendő dolog. Az biztos, hogy átfazonírozzák a munkaerőpiacot. Körülbelül egy évvel ezelőtt megjelent egy interjú Szegedi Krisztián matematikussal, akinek nagyon komoly szerepe volt abban, hogy a deep learning ennyire átütő sikereket érjen el a képfeldolgozás terén, ő fedezte fel az ellenséges példákat is. Arról kérdezték, hogy mi a deep learning jövője. Azt mondta, reális esélyt lát arra, hogy egy idő után odáig fejlődik az intelligencia, hogy úgy lehet majd vele beszélgetni, mint egy jól képzett, okos matematikussal. Tehát természetes nyelven lehet vele matematikai problémákról beszélni, matematikai problémákat megoldani. 

A másik, amit említett, és ami sokkal közvetlenebbül érint minket, programozókat, hogy a következő nagy áttörés az úgynevezett programszintézis lesz. Magyarul a számítógép odáig föl tud fejlődni, hogy a megrendelő, aki egy informatikai rendszert akar létrehozni, ugyancsak természetes nyelven beszélhet a számítógéppel, elmondhatja neki a problémáját, a számítógép pedig előállítja azt az algoritmust, azt a programot, ami megoldja az illető problémáját. Tehát ez azt jelenti, hogy a szoftverfejlesztők jövője kérdésessé válhat. De az ember arra gondol, hogy mindig megjelenhetnek olyan új területek, ahol ezt a felszabaduló munkaerőt lehet foglalkoztatni. 

Jelenleg léteznek-e olyan, az emberiséget érintő problémák, amelyeket a mesterséges intelligencia ma még nem tud megoldani, de sejteni, hogy a jövőben sikerülni fog neki? 

Nyilvánvalóan nagyon jó lenne, ha mondjuk a mesterséges intelligencia meg tudná oldani a kiberbiztonsággal kapcsolatos problémákat. Én úgy gondolom, hogy az is egy nagyon veszélyes terület. Minden ki van szolgáltatva az informatikának, és ennek a biztonsága még hagy kívánnivalót maga után. A mesterségesintelligencia-megoldások segíthetnek abban, hogy növeljük a kiberbiztonságot, hogy ne legyünk ennyire sérülékenyek. Ezek a területek robbanásszerűen fejlődnek, és ez a fejlődés az elkövetkezőkben is egészen biztosan látványos lesz.