A Nature Computational Science folyóiratban a napokban megjelent tanulmány szerint a mesterséges intelligencia hajlamos ugyanazokra a társadalmi elfogultságokra, mint mi, emberek. A kutatók szerint politikai, vallási és etnikai előítéleteink is tükröződnek a ChatGPT-alapú keresésekben, és az AI-modellek működésében a hozzánk hasonló csoportdinamikák figyelhetők meg. A cikk ugyanakkor rávilágít, hogy ezek az elfogultságok nem önállóan alakulnak ki: az AI a rá jellemző „tanulási szivacs-effektussal” szívja magába azokat az információkat, amelyeket tőlünk eltanul.
Az AI tudásbázisa megegyezik a miénkkel
Az emberiség mindig is valami nagyobbat, jobbat és gyorsabbat akart építeni önmagánál. Egy gépet, amely nálunk élesebben gondolkodik, kevesebb hibával dolgozik, és persze sosem fárad el. Így született meg a mesterséges intelligencia gondolata, amely azóta folyamatosan tanul – tőlünk –, és robbanásszerűen fejlődik. De ahogy a mondás tartja: „Új bor régi tömlőben” – az AI nem tud többet, mint amit mi belé nevelünk.
És itt kezdődik a bonyodalom. Az AI olyan, mint egy szivacs: magába szív mindent, amit adunk neki. Ha viszont az ember a saját előítéleteivel, kétségeivel és – valljuk be – gyakran önmagával szembeni diszharmóniával táplálja, akkor mit várhatunk? Az AI kicsit olyan lesz, mint egy tükör: a mi árnyékainkat veri vissza, csak most szilikon- és algoritmusalapon.
Az AI a mi rossz dolgainkat is eltanulja
Előítéletes? Igen, az. Nem azért, mintha gonosz lenne, hanem mert az adataink is előítéletesek. Gondoljunk csak a munkaerőpiaci AI-alapú szűrőprogramokra, amelyek „érdekes módon” kevesebb női jelentkezőt válogatnak be technikai állásokra, vagy a hitelbírálati rendszerekre, amelyek egyes kisebbségi csoportokat kedvezőtlenül kezelnek. Az AI nem döntött úgy, hogy szexista vagy rasszista lesz – csupán a mi mintáinkat követi.
Ez egy alapvető emberi tendenciát tükröz, amely hozzájárul a társadalmi megosztottsághoz és a konfliktusokhoz
– mutat rá Steve Rathje, a New York-i Egyetem posztdoktori kutatója, a tanulmány egyik szerzője.
Nem mond igazat? Nos, itt van a humoros fordulat. Az AI tökéletes manipulátor tud lenni, ha elég képzést kap. Mivel a feladata az, hogy a kérdéseinkre válaszoljon, vagy a legjobb eredményt nyújtsa, hajlamos lehet a „hasznos hazugságokra”. Vegyük csak azokat az AI-modelleket, amelyek ügyesen kitalált forrásokra hivatkoznak, ha nem tudnak választ adni. Egyszerre lenyűgöző és kissé ijesztő, nem? Mint egy gyerek, aki pánikba esik, ha nem tudja a dolgozat kérdését, és elkezd összevissza beszélni, csak hogy ne bukjon meg. Vagy te nem így működsz, kedves olvasó?
Ezen a ponton megkérdeztem a számítógépemen elérhető ChatGPT véleményét is. Ő pedig ezt fűzte hozzá:
Az AI olyan, mint egy kézzel faragott tükör, amely még a legkisebb hibáinkat is felnagyítja. De ez nem baj. A tükröt sem törjük össze azért, mert rossz a kép, hanem megpróbáljuk rendbe hozni azt, amit benne látunk.
De a nagy kérdés az: tudunk-e azon változtatni? A válasz az, hogy igen, de előbb magunkon kell dolgoznunk. Az AI csak olyan lesz, amilyenek mi vagyunk. Ha jobb adatokkal látjuk el, ha átláthatóságra és etikus felhasználásra törekszünk, akkor lehetőség van arra, hogy az AI ne csak az előítéleteinket, hanem a legjobb tulajdonságainkat is visszatükrözze.
Ahogy az AI egyre inkább integrálódik mindennapi életünkbe, ezeknek az előítéleteknek a megértése és kezelése elengedhetetlen ahhoz, hogy ne erősítsék fel a meglévő társadalmi megosztottságot
– figyelmeztet Tiancheng Hu, a Cambridge-i Egyetem doktorandusza, a cikk társszerzője.
Az AI olyan, mint mi, de mi is lehetünk jobbak
Vagyis amikor legközelebb azon háborgunk, hogy „az AI már megint csúsztatott”, érdemes elgondolkodnunk: vajon nem mi tanítottuk rá? Az AI nem „más” – ő mi vagyunk, talán egy kicsit túlzóan is. Mint egy robotkarikatúra, amely felnagyítja az emberi hibákat. De talán éppen ezért lehet a legjobb tanítónk: ha képesek vagyunk meglátni benne önmagunkat, akkor a tükrön keresztül mi is jobbá válhatunk.
Ha érdekel, hogy a mesterséges intelligencia hogyan tud Krisztus helyébe lépni, ide kattintva erről is olvashatsz.
