Állítsd be, hogy a Dívány az elsők között legyen a Google-találatokban!
A ’80-as években több nő dolgozott programozóként, mint ma. Akkor 35 százalék volt az arányuk, napjainkban 20 százalék körüli, itthon max. 15, de nincs pontos adat – mondta a TEDxLibertyBridgeWomen-en tartott előadásában Vásárhelyi Orsolya adattudós. Orsi kollégáival mintegy 7 millió szoftverfejlesztő adatait felhasználva igyekezett megérteni, a nők miért sikertelenebbek ezekben a közösségekben. Annak ellenére, hogy az első programozó is nő volt, sőt, a két világháború között főleg nők dolgoztak ezen a területen. Mi történt velük? Miért lenne fontos, hogy ismét nagyobb arányban vegyenek részt a technológiai újításokban? Egyáltalán, létezhetnek-e előítéletmentes algoritmusok egy előítéletekkel teli világban? Interjú optimalizációról, diszkriminációról és a Trónok harcáról.
A pandémia nagyon kevés előnye közé tartozik, hogy olyan embereket is el lehet hívni sétálni, akik egyébként jó eséllyel külföldön lennének. Közéjük tartozik Vásárhelyi Orsolya is, aki a Warwick Egyetem posztdoktorális kutatója, jelenleg távmunkában. Orsi adattudós, kutató, oktató, a Women in Data Science Conference at Stanford University magyarországi nagykövete, PhD-fokozatát a CEU-n szerezte. Többek között azzal foglalkozik, hogy hatalmas adatállományokat elemezve segít megérteni társadalmi problémákat. Mint mondja, a kezdetektől fogva lenyűgözte, hogy rendszerszintű, komplex folyamatokat is le lehet írni számokkal. Olyan, mintha oknyomozó újságíró lenne: van egy hipotézise, teszteli, és ha nem jó az irány, visszamegy a következőre.
Mi az, amit sosem tanult az egyetemen, most mégis odafigyel rá a munkájában? Mit gondol a Google-fordító szexizmusáról, a Facebook algoritmusairól vagy az ingyenes applikációkról? A technológiának való kiszolgáltatottságunkról és a programozás női rocksztárjairól beszélgettünk.
A kijárási korlátozás sokadik hónapjában megtörtem, és elkezdtem nézni a Trónok harcát.
Én is láttam, ne nézd végig. A vége gáz.
Egyelőre még csak a 3. évadnál tartok. Daenerys Targaryen, a sárkányok anyja épp azon gondolkodik, megvegye-e a Makulátlanokból álló hadsereget. Ők azok a harcosok, akiket újszülött koruk óta feltétlen engedelmességre neveltek. Nem kegyetlenkednek hirtelen felindulásból, viszont akkor sem jeleznek, ha az alap háborús helyzeten túl igazságtalanságot tapasztalnak. Vad gondolat, hogy a mesterséges intelligencia működése jutott róluk az eszembe?
A gép azt csinálja, amit mondasz neki – ez az első számú szabály. Asimovtól az Alapítványt olvastad? Ha nem, akkor most nem megyek bele a robotikás mókákba. De az algoritmikus diszkrimináció szempontjából nem rossz a hasonlat, amit hoztál. Ha a saját módszertanomba nincs beépítve az előítélet-mentességre való odafigyelés, ha én nem tesztelek a gépi tanulás során, akkor nem fogom tudni, van-e gond. Tehát az első lépés, hogy feltételeznünk kell, az általunk írt program akár diszkriminálhat is, és erre fel kell készülni. Most már egyre többet beszélünk erről, de amikor még én jártam egyetemre tíz évvel ezelőtt, statisztika szakon szinte egyetlen szó nem hangzott el az etikus adatelemzésről vagy arról, hogyan teszteljük le, a predikciónk hoz-e hátrányos megkülönböztetést. Szerintem gondolkodásban azóta is egy lépéssel hátrébb vagyunk, mint ahol állnunk kellene, főleg itt, Kelet-Közép-Európában.
De valóban, a gép nem fog szólni, ha te nem tudod, mit akarsz, mit keresel. Csak akkor találod meg, ha újra meg újra gondolsz rá. Ha elmulasztod, könnyen előfordulhat, hogy csak a végén derül ki, és az újságok címlapjára kerülsz. Ilyen volt például, amikor az Apple Pay magasabb credit score-t (azaz hitelképességi értéket) adott a férfiaknak, mint a nőknek, noha egy család voltak, közös kasszán éltek. Szerencsére ezek az esetek ma már nagyon kellemetlenek.
Csak az elmúlt pár héten volt több ilyen hír is. Sokan megosztották a közösségi médiában, hogy a Google fordítója mennyire sztereotip módon alkalmazza a személyes névmásokat (he is clever, she is beautiful), a Telex pedig arról írt, hogy a Facebook álláshirdetésekért felelős rendszere a nők ellen diszkriminálhat. El tudod magyarázni kicsit, mi történik ilyenkor? Biztos nem az, hogy távoli számítógépek előtt ül egy nőgyűlölő kocka srác, aki direkt ilyen kódokat pötyög.
Igen, szerintem amúgy is az az alapfelállás, hogy senki nem gyűlöl senkit. Inkább az van, hogy emberként hajlamosak vagyunk önteltek lenni, és csak arra gondolni, ami olyan, mint mi magunk. Általában nagyon egocentrikus a lényünk, és nem tudunk empatizálni azzal, amit nem ismerünk. Én például nagyon nehezen fogom tudni elmondani neked, milyen ázsiai férfinak lenni, mert nem vagyok az. És ha nem dolgozik velem egyetlen ázsiai férfi sem, de az ázsiai piacra akarunk terméket csinálni, akkor elég nagy bajban leszünk. Vannak ilyen sztorik. Jól működő navigációs szoftvercég, minden díjat megnyert Európában, mégis hatalmasat bukott Ázsiában. Teljesen más a kultúra, más vizuális hatásokat várnak az emberek, máshogy működik a közlekedés, vagy akár a számok, például Japánban. A hibák gyakran abból adódnak, hogy nem elég diverz a csapat. Viszont az ügyfelek, akiket kiszolgálni igyekeznek, globálisak és sokszínűek.
Hogyan fordít a Google? Minden fordítóprogram hatalmas szótárakat használ. Ezekben szóasszociációk vannak, amelyekbe sajnos már eleve be vannak építve a társadalmi előítéletek. Ez nem a Google-ben kódoló gonosz programozó vágya. Azok a rendszerek, amelyeket használunk, a társadalomra épülnek. Az előítéletek offline keletkeznek, az online rendszerek viszont kinagyítják őket: sokkal láthatóbbak lesznek, és nagyon gyorsan nagyon sok embert érinthetnek. Minden tanuló algoritmus vagy predikciós modell a múlt adataiból következtet a jövőre. Sok múlik tehát azon, hogy milyen bejövő adatokkal rendelkezünk. Ha a múltban nem figyeltünk oda, hogy nemi szempontból reprezentatív adataink legyenek, például a programozókról készült képek mindegyikén eddig kizárólag férfiak szerepeltek, akkor nem csoda, hogy az algoritmus azt fogja becsülni, hogy a programozó férfi. Korábban ez kevésbé volt szempont. Aki elszenvedte a diszkriminációt, azt nyilván érdekelte, de még annál is kevésbé tudott róla, mint napjainkban.
A Facebooknál pedig mindig nehéz kérdés, hogy optimalizáció vagy diszkrimináció zajlik. Ha én programozókat akarok felvenni, nyilván sokkal egyszerűbb férfiakat megcéloznom, mert több találatom lesz. Ellenben nulla esélyem lesz elérni nőket, ha nem is targetálom őket. De nem tudom, hogy működik a Facebook-algoritmus, és ők nem is akarják, hogy mi ezt tudjuk. Szerintem egy fontos következő lépés a transzparencia biztosítása lesz, hogy értsük, mi történik a „dobozban”. Erre mindenképpen kellene jogi szabályozás, de ehhez én már nem értek. Emlékszem, amikor a GDPR-t bevezették, pont egy spanyol startupnál dolgoztam. Kész rémálom volt, hogy most akkor milyen adatot tárolhatunk, és mit nem, nem tudtunk rá előre felkészülni. Nemrég tartottam egy előadást a Startup Safarin, ott pont arról beszéltem, hogy – bár úgy tűnik, még messze vagyunk tőle – már most érdemes számolni az átláthatóság követelményével.
Említetted a programozók közti nemi különbségeket. A kutatásaitokból az rajzolódott ki, hogy önmagában nem elégséges célkitűzés a nők létszámának növelése.
Alapvetően van most egy diversity push, egy arra való törekvés, hogy minél többféle embert felvonultassanak a cégek. Vizsgálatokból tudjuk, hogy ez jó. Viszont vannak olyan helyzetek, amikor nem. Például akkor, amikor egy viszonylag diverz csapatban többségi-kisebbségi helyzet alakul ki: mondjuk, egy szem nő és kilenc férfi dolgozik együtt. Ebben az esetben várhatóan rosszabb lesz a teljesítmény. Itt jön be az inklúzió kérdése, amiről kevesebbet szoktak beszélni. Felvehetek a szervezetbe egy csomó nőt, de ha nem adok nekik releváns feladatot, vagy a közösségnek nem olyan a kultúrája, ami segítené őket abban, hogy ott maradhassanak, a csapat valódi tagjai lehessenek és aktívan részt vegyenek a termékfejlesztésben, akkor el fognak onnan menni. Sok cég küzd, hogy 30-40 százalék legyen náluk a nők aránya, de a nők elmennek. A tudomány és technológia területén 50 százalékos körükben a drop out. Ennek főleg az az oka, hogy magát az inklúziót nehéz megérteni, megmérni – ez sokszor egy érzés, hogy engem elfogadnak. Nehezebb róla jelentést készíteni, mint azt mondani, hogy nálunk ennyi meg ennyi nő van.
Mi videójáték-fejlesztő csapatok adatain elemeztük, miképp hat a nemi diverzitás és az inklúzió a csapatok kreativitására. Néztük egyrészt a nemek százalékos arányát, de azt is, hogy a nők mennyire szorulnak a perifériára, van-e szegregáció. A hálózatban betöltött pozíciójuk alapján kiszámoltunk egy ún. inklúziós értéket. Lényegében azt találtuk, hogy ha csak a létszámot növeljük a modellben, akkor az adott videójáték prediktált (előrejelzett) kreativitása rosszabb. Viszont ha a nők számának növelése mellett elkezdjük az inklúziót is növelni, akkor lesz a legmagasabb a kreativitás. Akkor történik meg az, amit szeretünk hangsúlyozni, hogy a diverzitás pozitív dolgokat hoz. Önmagában nem hoz. Ehhez az kell, hogy azok az emberek, akik az újszerű látásmódot hozzák be a csapatba (itt a nők), valódi részesei lehessenek a közösségnek. Hogy ne csak ott legyenek, de szóhoz jussanak, ha pedig szóhoz jutnak, meg merjenek szólalni.
Meglepődtem, amikor a TED-es előadásodon hallottam, hogy az első programozó is nő volt. Vannak a szakmátoknak női rocksztárjai?
Igen, szerencsére ma már sokról tudunk. A genderszakértők egyébként úgy tartják, anno direkt írták ki a nőket a sztoriból. Ha a történelmet nézzük, szinte sehol sem jelennek meg a nők. Ebből a szempontból sajnos nincs különbség más területekhez képest. Az első programozó, Ada Lovelace, egy 19. századi arisztokrata volt, matematikus. De az első komputert is nő hozta létre. Igazából az egész számítástudomány nőies dolog volt a két világháború között. Úgy képzelték, olyasmi ez, mint a gépírás: kiváló munka kisasszonyoknak. Megírják ezeket a kis programokat, ez ilyen csajos. A II. világháború alatt rengeteg nő került be a computing szakmába, a kódfeltörést is ők végezték.
Aztán ahogy a technológia fejlődésével egyre fontosabbá vált ez a terület, elkezdtek olyan férfi menedzsereket rakni a fejük fölé, akiknek amúgy fogalmuk sem volt arról, mit kellene csinálniuk. Ráadásul Angliában ez idő tájt hatályos törvény volt arról, hogy ha a nő férjhez megy, fel kell mondania a munkahelyén. A nőket tehát fokozatosan kiszorították erről a területről. Sajnos hasonló jelenségek más szakmákban is megfigyelhetők: ahol emelkedik a nők száma, ott leesik a presztízs, és fordítva, ahol több a férfi, magasabb a presztízs, a fizetés. Nézd meg, hogyan tették tönkre például a pedagógusszakmát.
A ’80-as, ’90-es évekre aztán oda jutottunk, hogy a számítógépes játékokat szinte már csak fiúknak reklámozták, a lányok pedig nem érezték úgy, hogy szeretnének ezzel foglalkozni. A computer science az egyetlen olyan része a STEM-nek (science, technology, engineering, and mathematics rövidítése), ahol a ’80-as években több nő járt egyetemre, mint most. Az elmúlt 5-10 évben azért komoly igyekezet mutatkozott, hogy ez javuljon. Épp most csinálok egy kutatást, ahol különböző STEM-területeket hasonlítunk össze. Az derült ki, hogy a számítástechnikai szakmákban már egész jól állnak a nők, míg a fizikában, a matekban, a csillagászatban alig vannak jelen, mert ott nem voltak alulról jövő kezdeményezések, amelyek azt üzenték volna, hogy ide kellenének nők.
Szóval már van egy kis fordulat, de még a szakmán belül is megvannak a nőiesebbnek tartott területek. A weboldalak külső megjelenésével foglalkozó frontendfejlesztést például van, aki lenézi, pedig baromi kemény meló az is. De ott van a computational social science is, ami az adattudomány és a szociológia között van valahol. Én is nagyrészt ezzel foglalkozom. Tipikusan nőies dolognak tartják, mivel társadalmi problémákat akarunk megérteni, noha matektudást használunk. Ez sokkal jobban összeegyeztethető a társadalmi nemiszerep-elvárásokkal. Az illető nő, és világot akar jobbítani, pipa. És azt látjuk, hogy a csajokat ezzel tényleg könnyebb megszólítani. A legkorábbi időszaktól így vagyunk nevelve, elég nehéz kivonni magunkat a tágabb társadalom hatása alól.
Sokszor az is van, hogy azoknak fűződik nagyobb érdeke a társadalmi változásokhoz, akik a hierarchia alacsonyabb szintjén állnak. Bármennyire is jó fej egy férfi, az egyenjogúság elérése csoportként a privilégiumaik feladásával járna.
Most már ott tartunk, hogy vannak olyan srácok, akik azt mondják, ha nem kapnak meg egy programozó állást, hogy biztos azért van, mert ők fehér férfiak. Hogy nekem úgyis könnyebb, mert én lány vagyok. Ezek a mondatok elhangoznak, és ez nagyon para. Elég nagy a visszacsapás, a backlash. Plusz sok nő, köztük én is, mindig attól fél, hogy nem akar ún. token woman lenni. Azaz olyan nő, akit azért vesznek fel, hogy ki tudják tenni a kirakatba. Tavaly, amikor állást kerestem, több helyre is hívtak senior data scientistnek, mert kevés van belőlünk, főleg itthon. Sok mindent ígértek, és aztán sokszor kiderült, hogy egy nő sincs az adott cégben. Én viszont jól marketingelhető lennék, és nekem kéne felépíteni a csapatot. Amivel nincs gond, meg klassz, hogy egyáltalán elkezdtek dolgozni ezen. De bennem azért ott motoszkált, hogy azért ajánlottak-e állást, mert jó vagyok, vagy azért akarnak felvenni, mert szemmel láthatóan nő vagyok.
Arról is sokat olvasni – például Yuval Noah Harari könyveiben –, hogy nemhogy a hétköznapi emberek, de még a világ vezető politikusai sem értik a technológiát. Nem tesz minket végtelenül kiszolgáltatottá, ha nem foglalkozunk vele?
Ha döntéshozóként megfelelő szakértők vannak körülötted, akkor ez nem feltétlenül gond. 2019 nyarán kaptam egy elég rangos ösztöndíjat Portugáliába, amelyet Barack Obama egykori chief data scientist-je hívott életre. Ő gyakorlatilag a teljes amerikai adminisztrációt abba az irányba kezdte vinni, hogy építsék be a technológiát a kormányzásba, hogy az emberek ellátása jobb lehessen. Mindent, amit a tech cégek kifejlesztettek, azt arra is fel tudjuk használni, hogy az állampolgároknak jobb élete legyen. Nem baj, ha ehhez nem ért egy politikus. Csak ismerje be, hogy nem ért hozzá. Sajnos vannak olyan politikusok, akik még mindig azt gondolják, hogy mindenhez értenek. Egy személyben tudósok, virológusok, és majd ők eldöntik, mi lesz. Ezzel szemben vannak olyanok, akik hallgatnak a kutatókra, szakértőkre.
Persze annak is megvan a kockázata, hogy felhasználóként fogalmunk sincs, mit csinálunk. Csak most kezdünk rádöbbenni ezekre. Eladják az adatainkat? Miért hittük azt, hogy bármi ingyen van? Semmi sincs ingyen, maximum az adataiddal fizetsz érte. Nagy botrány van most belőle, hogy az iPhone új operációs rendszerén be lehet állítani, hogy nem adod oda az adataidat az Apple-nek. Az, hogy te kontrollálod a saját adataidat, szerintem nagyon jó irány akkor is, ha ezentúl fizetni kell majd az alkalmazásokért. Legalább nem tudják rólad, mikor mész WC-re, hányas a lábad, várandós vagy-e. Ezek az adatok eddig elvileg nem kerültek rossz kezekbe, de erre sajnos sosincs garancia.
Éppen ezért fontos lenne, hogy a gyerekek is halljanak ezekről a kérdésekről. Én nem tudom, mi történik ma számítástechnikaórán. De akár az informatika, akár az oktatásba visszakerült etika vagy erkölcstan is foglalkozhatna ezekkel a témákkal. Hogyan kell etikusan internetet használni? Hogyan védjem meg magam? Mit ne osszak meg magamról és másokról? Ebben a médiának is nagy felelőssége van, hogy egyrészt beszéljen a szülőkhöz, másrészt a fiatalokat is elérje a nekik szóló platformokon: a tinédzsermagazinokon vagy akár a Snapchaten keresztül. Persze az állami médiának is lenne ebben szerepe, csak mostanában kevés benne az ismeretterjesztő tartalom. A technológia nagyon sok mindenre jó lehet, de meg kell tanulni ügyesen használni.
