Milyen társadalmi és politikai jövő vár ránk, ha a nem tudatos, de rendkívül intelligens algoritmusok már most is helyettünk hoznak döntéseket?
Veled is előfordul, hogy órákon át latolgatsz egy viszonylag egyszerű kérdést, vagy hogy nem tudsz választani a lehetőségek közül? Megesett már, hogy ahelyett, hogy élvezted volna egy-egy jó döntésed következményeit, inkább azon töprengtél, mit veszíthettél azáltal, hogy nem egy alternatív megoldást választottál? Nyugi, nem vagy egyedül. Az élet folyamatos döntések sorozata, és addig nincs is baj, amíg bele nem süppedünk a döntésképtelenségbe, vagy amíg nem ostorozzuk magunkat egy életen át egy-egy balul elsült nekifutásunk miatt.
A kevésbé megnyugtató hír az, hogy talán már csak évek kérdése, hogy a nem tudatos, de rendkívül intelligens algoritmusok legyenek a legfőbb tanácsadóink abban, hova adjuk be az álláspályázatunkat, kivel randizzunk, vagy mit együnk ebédre, azaz hogy a mesterséges intelligencia hozza meg helyettünk a döntéseinket.
A döntéshelyzetek sokszor bonyolultak és bosszantóak tudnak lenni, ugyanakkor döntéseink által érezhetjük azt, hogy kezünkben van az irányítás, hogy szabad akaratunk szerint cselekszünk. „A társadalom még nem áll készen arra, hogy elveszítse hitét a szabad akarat létezésében, ám ez lassan megváltozik. Még azok számára is, akik nem hisznek a szabad akarat létezésében, megalázó és pusztító lehet az önálló döntéshozás képességének elvesztése – különösen akkor, ha a világ vezető nagyvállalatai irányítják a döntéshozatali algoritmusokat” – írja Luca Rossi, a Medium szerzője a technológiai fejlődés filozófiai és etikai kérdéseit boncolgató cikkében.
A folyamat a jelenben is zajlik, apránként, szinte észrevétlenül ruházzuk át a döntéshozatal feladatát a gépekre: nem mi határozzuk meg, hogy melyik sorozatot kezdjük el nézni, milyen zenét hallgassunk, vagy melyik könyvet olvassuk el, hanem többek között a Netflix, a Spotify és az Amazon algoritmusai.
Talán nem vagyunk tudatában, de ezek a vállalatok már az ajánlórendszerükkel befolyásolják döntéshozatali folyamatainkat, mi pedig általában elégedettek vagyunk manipulált döntésünk eredményével. Persze ügyesen azt éreztetik veled, hogy a te kezedben van az irányítás, mert végső soron te vagy az, aki rákattint a Black Mirror első epizódjánál a lejátszás gombra.
„A mesterséges intelligencia sok esetben jobban tudja, mire van szükségünk, mi az, ami tetszik nekünk, mint mi magunk. Az pedig, hogy nem közvetlenül mi hozunk meg egy döntést, nem foszt meg minket a választás okozta elégedettség érzésétől, sőt nagyon is élvezzük a végeredményt, hiszen nem tudunk megbánni egy olyan döntést, amit soha nem hoztunk meg” – fogalmaz Rossi. Szerinte feltehetően akkor is élhetünk boldog, kiegyensúlyozott életet, ha nem mi irányítjuk minden egyes lépésünket. „A kontroll iránti szükséglet pusztán illúzió, egy kulturális termék. A társadalom a technológiával együtt rohamtempóban fejlődik, a szabad akarat koncepciója pedig a jövőben már nem lesz releváns.”
A hatalom új fokmérője: az adat
Ha valamitől tartanunk kell, az az, hogy egyéni preferenciáink megismerésével és személyes adataink birtoklásával a saját érdekeik és hatalomvágyuk által vezérelt nagyvállalatok és kormányzati szervek folyamatosan visszaélhetnek. A hackerek és a különböző óriáscégek maguk is manipulálhatják döntéshozatalainkat – anélkül, hogy tudnánk róla. Ez történt tulajdonképpen a közelmúltban a Cambridge Analytica elemzőcég nevével fémjelzett botrány során: a politikai tanácsadócég illetéktelenül fért hozzá 87 millió Facebook-felhasználó személyes adataihoz, hogy azok alapján személyre szóló hirdetéseket gyártson, és ezáltal minél több Trump-szavazót toborozzon.
Az adatok megszerzéséért már évek óta ádáz küzdelem folyik, és olyan óriáscégek vezetik, mint a Google, a Facebook, a Baidu (a Google kínai megfelelője) vagy a Tencent (a kínai Facebook).
„Sok ilyen óriáscég az úgynevezett figyelemkufárok üzleti modelljét tette a magáévá. Ingyen információ, szolgáltatások és szórakoztatás segítségével felkeltik és megszerzik a figyelmünket, majd eladják a hirdetőknek. Ezek az adatóriások azonban minden valószínűség szerint jóval nagyobb célokat tűztek ki maguk elé, mint az eddigi figyelemkufárok. A valódi üzletet nem is a reklámhelyek eladása jelenti a számukra. Figyelmünk felkeltése révén óriási mennyiségű adatot képesek felhalmozni rólunk, ami sokkal többet ér bármilyen reklámhelynél.
Nem a vásárlóik vagyunk, hanem az áruik”
– írja Yuval Noah Harari történész 21 lecke a 21. századra című könyvében.
Harari szerint középtávon ez az adatfelhalmozás megnyitja az utat egy gyökeresen eltérő üzleti modell előtt, amelynek első áldozata éppen a reklámipar lesz. Ennek az új modellnek az alapja a hatalom áthelyezése az emberek kezéből az algoritmusokéba, többek közt azzal a joggal együtt is, hogy kiválasszanak és megvegyenek dolgokat. Amint az algoritmusok választanak és vásárolnak helyettünk, a hagyományos reklámipar csődbe megy.
Vegyük például a Google-t. A Google egy olyan pontra akar eljutni, ahol már bármit kérdezhetünk tőle, és a lehető legjobb választ kapjuk. Mi történik, ha már azt is mondhatjuk neki:
„Szia, Google, figyelembe véve mindazt, amit az autókról tudsz, és mindazt, amit rólam (beleértve a szükségleteimet, a szokásaimat, a nézeteimet a globális felmelegedésről, sőt a véleményemet a közel-keleti politikai helyzetről), melyik autó lenne nekem a legjobb?” Ha a Google jó választ tud erre adni nekünk, mi pedig tapasztalatból megtanultuk, hogy inkább rá hallgassunk, és ne a saját könnyen manipulálható érzéseinkre, akkor mi haszna ezek után az autóreklámoknak?
„Hosszabb távon pedig, elegendő adat és számítási kapacitás birtokában, az adatóriások az élet legrejtettebb titkaihoz is hozzáférhetnek, és ezt a tudást aztán nemcsak arra használhatják, hogy döntsenek helyettünk és manipuláljanak bennünket, de arra is, hogy áttervezzék a szerves életet, és szervetlen létformákat teremtsenek” – figyelmeztet a történész.
A hétköznapi embernek nagyon nehezére esik majd ellenállni ennek a folyamatnak. Ma az emberek boldogan kiadják legértékesebb – személyes – adataikat ingyenes e-mail-szolgáltatásokért és cicás videókért cserébe. Kicsit arra hasonlít ez, mint amikor az afrikai és amerikai törzsek tudtukon kívül egész országokat adtak el színes üveggyöngyökért és olcsó csecsebecsékért. Később aztán az egyszeri embernek egyre nehezebb lesz elzárnia az adatfolyamot, különösen ha minden döntéséhez, de még egészségügyi ellátásához és fizikai fennmaradásához is a rendszerre kénytelen támaszkodni.
