(Kiemelt kép: Unsplash)
A tartalommoderálás az a folyamat, melynek során a felhasználók által generált tartalmak alkalmasságát értékelik, és eldöntik, hogy megengedik-e azokat egy platformon vagy sem megjelenni. A weboldalakon és közösségi médiaplatformokon folyamatosan közzétett hatalmas mennyiségű tartalom miatt a tartalom moderálása (avagy cenzúra) a webes vagy social media szerepvállalás egyik legkritikusabb funkciójává vált. A tartalommoderátorok azok az egyes munkavállalók, akik felülvizsgálják a megkérdőjelezhető szövegeket, képeket és videókat, és el kell dönteniük, hogy eltávolítják vagy sem ezeket az általános fogyasztásra alkalmatlan vagy a platformok irányelveit sértő tartalmakat. Bár a közelmúltbéli vizsgálatok és felmérések (különösen a Facebook és a Google esetében) fényt derítettek a tartalommoderátorok által elszenvedett pszichológiai ártalmakra, nincs egyértelmű út arra, hogy munkájukat kevésbé stresszessé tegyük egyszerűen. Ez nemcsak etikai, hanem pénzügyi kérdéssé is vált mára ezt megoldani, de jelzi a probléma súlyosságát, hogy a Meta nemrég 52 millió dolláros kártérítést fizetett a tartalommoderátoroknak (egy csoportos perben) pszichológiai károkozás miatt.
A nem kívánt tartalom típusai
A tartalommoderátorok munkája az adott social media platform és a nem kívánt tartalom típusa szerint változik. Egy online piactéren vagy fogyasztási cikkeket árusító webhelyen a tartalom moderálása teljesen másképp néz ki, mint egy közösségi platformon. Ráadásul a „nem megfelelő” tartalmaknak több szintje is létezik. Ide tartozik a spam, a szerzői jogok megsértése, a hamis fiókok és az ismétlődő bejegyzések, melyek akadályozhatják egy-egy weboldal napi üzleti tevékenységét, vagy rontják a felhasználói élményt. Külön fejezetet érdemel a mérgező tartalom, mely kárt okozhat a felhasználóknak, ami a félretájékoztatástól, a magánélet megsértésétől, a zaklatástól, a gyűlöletbeszédtől és a meztelenségtől kezdve az emberölésről, öngyilkosságról, terrorcselekményekről, nemi erőszakról és kínzásról szóló fotókig és videókig bármi lehet ma már (az emberi fantázia határtalan ezt Szophoklész Antigonéjából is tudjuk: „Sok szörnyű csodafajzat van, s köztük az ember a legszörnyebb.”). Sok esetben az áldozatok kisgyermekek és állatok ezekben a tartalmakban már sajnos. Így nem meglepő, hogy ha egy-egy tartalommoderátornak naponta több száz ilyen bejegyzést kell átnéznie (és hétről hétre ismétlődően), akkor ez a tevékenység olyan pszichológiai károkat okozhat, melyek még azután is megmaradhatnak, hogy abbahagyják ezt a munkát.
A mérgező tartalmak hatása a mentális egészségre
A mérgező tartalomnak a moderátorok mentális egészségére gyakorolt hatása közvetlenül összefügg az ilyen jellegű tartalmaknak való kitettségük mértékével. Ez attól függetlenül érvényes, hogy a tartalommoderátorok magának az adott platformnak vagy a feladatot ellátó kiszervezett cégnek dolgoznak. A házon belüli moderátorok nagyobb kompenzációs csomagokat, kellemesebb munkakörnyezetet, rugalmasabb időbeosztást és átfogó mentális egészségügyi juttatásokat kapnak általában megelőzésképpen (például magán pszichoterápiát és pszichiátriai ellátást). Ezzel szemben a külső vállalkozóknak dolgozó moderátorok sokkal kellemetlenebb munkakörülményekkel, mennyiségi és pontossági célokkal, korlátozó időbeosztással, merev szabályokkal és lankadatlan teljesítménykényszerrel (vagy kirúgással) szembesülhetnek. Viszont cégstruktúrától függetlenül, ha egy bizonyos időn felül ki vannak téve a mérgező tartalmaknak, a belső és a külsős moderátorok hasonló mentális egészségügyi következményekkel szembesülnek.
Ilyen ártalmak lehetnek: a poszt-traumás stressz zavar (PTSD), melynek a tünetei közé tartoznak a hangulatzavarok, a csökkenő termelékenység, a rémálmok és az álmatlanság, a fáradtság, bizonyos helyzetek kényszeres kerülése, a düh, félelem vagy paranoia és a szomorúság állapota. A pánikrohamok: egyes moderátorok pánikrohamokról számolnak be gyermekek és állatok jelenlétében, mert attól félnek, hogy komoly bajuk esik. De fenyegeti őket a szorongás is, ami már elég súlyos lehet ahhoz, hogy megzavarja a mindennapi életüket is, mivel a félelmek és fokozott érzékenységek miatt a normális tevékenységek és kapcsolataik is tarthatatlanná válhatnak számukra. Vagy nem szabad könnyen venni korunk népbetegségét a depressziót sem, hiszen a zavaró tartalmaknak való tartós kitettség oda vezethet, hogy a moderátorok eltávolodnak szeretteiktől, és szomorúság, apátia vagy öngyilkossági gondolatok keríthetik hatalmukba őket. Végül, de nem utolsó sorban megjelenhetnek önpusztító szokások is, ezek közé tartozik az alkohollal és a drogokkal való visszaélés, valamint a válogatás nélküli szexuális érintkezés.
A mesterséges intelligencia szerepe a tartalom moderálásában
2023 sokak szerint az MI éve lesz (köszönhető ez a Nagy Megváltó ChatGPT Őrületnek) így a mesterséges intelligencia ígéretes lehetőség lehet(ne) az emberi tartalommoderátorok érzelmi terhelésének eliminálásában. A nagy platformokon, mint például a Meta az MI rendszerek már most is a mérgező tartalmak több mint 90%-át felismerik. Sőt a gyűlöletbeszéd több mint 95%-át és a terrorista tartalmak 98-99%-át távolították már a gépi elme segítségével így állítólag a cég korifeusai szerint. Az emberi moderálást igénylő káros tartalmak mennyisége azonban még mindig túlnyomó minden platformon bármit is állítsanak a marketing szövegekben. És míg az automatizált tartalommoderálás következetes, skálázható és többnyelvű, a gépi tanulási rendszerek nem képesek megérteni a teljes kontextust vagy felismerni a benne rejlő finom árnyalatokat (az iróniát például és a humort). Ez különösen a mémek esetében jelenthet problémát, ahol a szöveget, a képeket és a kontextust egészében kell(ene) elemezni az eredeti jelentés és a szándék kivonatolásához.
