A közösségi tartalommoderátorok munkája, hogy az emberiség földi poklát megjelenítő rémségektől mentesítsék azokat a felületeket, amiket mi szórakozásra, tájékozódásra és vicces videók nézegetésére használunk. Kik ezek az emberek, és miért vállalnak ekkora terhet magukra?
Ez is csak egy munka, mondhatnánk, egy egészen ótvar munka, amit valakinek el kell végezni. A Földön közel 5 milliárd közösségimédia-felhasználó gyártja és osztja meg a tartalmakat, pár tízezer ember pedig azon munkálkodik, hogy ezeken a felületeken a gyűlölet, az erőszak ne tudjon megjelenni, terjedni.
Miközben a nyugati, demokratikus világ a szólásszabadság tüzében ég, az emberek mesterséges intelligencia által vezérelt robotokat tanítanak meg a közösségi felületek moderálására. A fő kérdés ma már inkább az, hogyan határozható meg a különbség szólásszabadság és felelősségteljes szólásszabadság között. És kinek a feladata ezt a gyakorlatba átültetni és alkalmazni.
Mit csinál egy tartalommoderátor?
A tartalommoderátor feladata sokrétű, többféle feladat kombinációjából áll. Célzott eszközökkel kiszűri a szabályoknak nem megfelelő, sértő, illegális vagy káros szövegeket, képeket, videókat és hanganyagokat. Ezután döntést hoz arról, hogy a tartalmakat vagy felhasználói profilokat el kell-e távolítani a felületről, mert azok sértik a felhasználói szabályokat, vagy elég csak korlátozni őket, illetve figyelmeztető jellel ellátni.
A moderátorok segítenek fenntartani a digitális tér és az online közösségek etikai normáit, de nem csak a visszaélések és túlkapások korlátozása a cél, a nagy közösségi média szolgálatában álló moderátorok a platformok hírnevének védelmében is eljárnak. Ezek az óriás techcégek dollármilliárdokat költenek a naponta többmilliós új tartalom átvizsgálására. Többségük harmadik félnek szervezi ki ezt a feladatot, így távolítva el magától a kínos feladatot.
2013. március 23-án felhasználók ezreinek Facebook-üzenőfalán megjelent egy videó, amelyen egy idősebb ember egy kislányt bántalmaz. Mielőtt a videót törölték volna a Facebookról, tizenhatezerszer osztották meg, és négyezerszer lájkolták. Ez az eset világszerte megbotránkozást váltott ki.
Az elmúlt években az áttekintendő tartalmak óriási mennyisége jelentős technológiai fejlesztéseket tett szükségessé ezen a területen. A felhasználók által generált hatalmas mennyiségű, élőben megjelenő posztok gyorsabb moderálására – és a skálázhatóság eddig nem látott szintjére – egyre több IT-cég keresi a megoldást. A szélsőséges tartalmak gyors eltávolításának elmulasztása ugyanis súlyos botrányokat eredményezhet, amit a Facebook kárán a többi platform is megtanult már. De a leghíresebb közösségimédia-felületet irányító céget a tartalommoderátorok munkakörülményei miatt is sok támadás érte.
Mivel szembesülnek a tartalommoderátorok
Hiába léteznek az automatizált tartalommoderálási megoldások, melyeknek segítségével a moderálás gyorsabb és hatékonyabb. A mesterséges intelligenciával működő eszközök automatizálják ugyan a folyamat monoton lépéseit, és nagyrészt megvédik az emberi moderátorokat a legszörnyűbb tartalmaktól. De ezek az algoritmusok még mindig csak kiegészítik az ezen a területen dolgozó emberek szakképzett és nélkülözhetetlen munkáját.
Az előre betanított algoritmusok, amelyek menet közben is tanulnak minden egyes új moderálási döntésből, rengeteg munkaórát takarítanak meg az emberi moderátorok számára.
A technológiai fejlődés jelenlegi szakaszában viszont még nincs lehetőség az emberi erőforrás megspórolására.
Sok olyan eset van, amikor egy tényleges személynek kell döntést hoznia, mivel a tartalomszűrés során nagyon sok „szürkezóna” is létezik.
A Wall Street Journal a tartalommoderátori pozíciót az internetes technológia legrosszabb munkájának nevezte. 2020-ban ki is robbant egy botrány, ami végül azt eredményezte, hogy a bíróság 52 millió dollár kártérítés kifizetésére kötelezte a Facebookot a moderátorai részére, akik a pszichológiai terhelésre, rossz munkakörülményekre hivatkozva perelték a techcéget.
Az internetes szenny takarítói
Körülbelül 5 éve kezdődött a kínos téma nyilvános feldolgozása, miután több exmoderátor is nyilvánosság elé merészkedett a munkával kapcsolatos élményeivel. Az addigi hallgatás a szigorú titoktartási szerződés kötöttségének volt köszönhető. A beszámolók szerint egy ilyen megterhelő munka álmatlansággal, szorongással, gyors súlygyarapodással vagy fogyással, paranoia kialakulásával is járhat. Volt megszólaló, aki annyi gyermekbántalmazással kapcsolatos tartalmat látott, hogy már minden felnőttben a szexuális ragadozót feltételezte. Súlyos esetekről is beszámoltak: alkohol- és drogfüggőség, sőt még öngyilkosság is szerepelt a hatások között.
„Mindig változtattak az útmutatásokon, és soha nem adtak nekünk konkrét kvótát… Amikor először kezdtem ott dolgozni, és még nem voltam teljesen kiégve, napi 500-700 tartalommoderálási döntést kellett meghoznom. A mesterséges intelligencia és a felhasználók által jelentett dolgok keverékei voltak ezek” – mesélte egy moderátor a BBC-nek.
A Tisztogatók című dokumentumfilm
A Cleaners, vagyis a Tisztogatók a 2019-es Budapesti Nemzetközi Dokumentumfilm Fesztivál nyitófilmje volt. A film 5 tartalommoderátort mutat be. A Fülöp-szigeteken élő „takarítókból” álló csapat arra szakosodott, hogy felismerje és eltávolítsa az obszcén tartalmakat az internetről. A filmben leírják tapasztalataikat, amelyek során gyors egymásutánban kellett értékelniük az olyan megrázó jeleneteket, mint a kivégzések és a gyermekpornográfia. Emellett feltárják a munkájukban rájuk nehezedő, titoktartásnak is köszönhető nyomást, a feldolgozás nehézségeit, valamint véleményüket a közösségi médiában megjelenő tartalmak manipulálásának globális hatásáról. A film a világ minden tájáról származó forgatókönyvekkel a cenzúra következményeire is rávilágít.
A moderátoroknak a pszichológiai terhelésen túl óriási nyomást jelent az ítélőképesség terhe is: különbséget kell tenniük a gyermekpornográfia és az ikonikus vietnámi háborús fotók, vagyis az erőszakos cselekmények dicsőítése és az emberi jogi visszaélések feltárása között. A döntéseknek árnyaltnak és kulturális kontextusba helyezettnek kell lenniük, különben a platformnak a szólásszabadság megsértésének vádjával kell szembenéznie.
