Ha valaha is használtunk már szakmai hálózatépítő platformot, ismerjük, milyen gyorsan fejlődik a feed-ünk. Töltsünk el néhány percet egy innovatív értékesítési stratégiákról szóló poszttal, és hirtelen a hírcsatornánk az értékesítési tartalmak központjává válik. Ezek a számítási algoritmusok szándékosan úgy vannak kialakítva, hogy olyan információkat mutassanak be, melyekről azt jósolják, hogy érdekesnek találjuk; ez gyakran olyan tartalmakat jelent, melyek iránt érdeklődést mutatottunk (bármennyire is múló), mint az innovatív értékesítési stratégiák. De azon kívül, hogy tudatosan kerüljük a hasonló posztok megtekintését, meglehetősen korlátozott a képességünk arra, hogy befolyásoljuk a látott tartalmakat, vagy megértsük a megjelenésük mögött meghúzódó okokat.
Pontosság vagy átláthatóság?
A legtöbb algoritmust, mellyel naponta találkozunk „fekete doboz” környezetben fejlesztik ki, olyan műszaki szakemberek, akik gyakran elszakadnak azoktól az emberektől, akikre a tervezésük leginkább hatással van. Ezek az algoritmusok adatokat dolgoznak fel és „optimalizált” eredményeket produkálnak anélkül, hogy alkotóik (nem is beszélve a felhasználókról) teljes mértékben megértenék a következtetések mögött meghúzódó mechanizmust. Az átláthatóságnak ez a hiánya üzleti kontextusban problematikus.
Persze, ha a hírfolyamunk hirtelen tele lesz innovatív értékesítési stratégiákról szóló tartalommal, az nem mélyen problematikus. Amikor azonban hasonló elveket alkalmaznak igazságügyi, foglalkoztatási vagy fogyasztói magatartási kontextusokban, a következmények sokkal lényegesebbek és messzebbre nyúlóak. Még mindig ritkák, de egyre keresettebbek az „üvegdoboz” algoritmusok, melyek célja, hogy megoldják ezeket a kihívásokat. A „fekete doboz” modellekkel szembeni kritikákra válaszul az „üvegdobozos” megközelítés arra törekszik, hogy átláthatóvá tegye az algoritmus módszertanát, lehetővé téve más informatikusok és potenciálisan néhány műszaki üzleti szakember számára, hogy megértsék az algoritmus belső működését. Képzeljük el, hogy bepillantást nyerhetünk a szakmai hálózatépítő platform algoritmusának döntéshozatali folyamatába, és megérthetjük, hogy miért jelennek meg bizonyos posztok számunkra.
A meglévő paradigmán túl
Egy algoritmus logikájának egyszerű megfigyelése kívülről nagyban különbözik attól, mintha elmerülnénk a tervezés tapasztalatában. Azzal, hogy az algoritmus tervezését elválasztjuk az emberi tapasztalattól, ahogyan azt a hagyományos algoritmus-tervezés teszi, a legjobb esetben is érintetlen termékeket hozunk létre, vagy a legrosszabb esetben egyenlőtlenségeket reprodukálunk. Ezek az algoritmusok aggályokat vetnek fel az átláthatósággal, a megbízhatósággal, az elfogultsággal, a méltányossággal és a nem szándékolt következmények lehetőségével kapcsolatban. A szakmai hálózatépítő platformokat például kritika érte, amiért az állásajánlásokban a visszhangkamrákat és az elfogultságokat állandósítják, mivel algoritmusaik a meglévő hálózatok alapján rangsorolják a lehetőségeket, gyakran akaratlanul is háttérbe szorítva a különböző pályázókat és megerősítve a meglévő egyenlőtlenségeket.
Ne feledjük, hogy az algoritmusokat egy cél vagy eredmény elérésére tervezték. Elsődleges szempontjuk az optimalizálás. Az erkölcs és az etika nem számít egy algoritmus számára. Ahhoz, hogy ezekkel az aggályokkal foglalkozzunk, az algoritmusokat azokkal az emberekkel együtt és mellettük kell megterveznünk, akikre hatással vannak és akiket érintenek. Ha a „felhasználókkal együtt” vagy a „felhasználók érdekeit szem előtt tartva” tervező informatikusokon túlmutatva biztosíthatjuk, hogy az embereket bevonjuk az eredeti algoritmus tervezésének „MIÉRTjébe” és „HOGYANjába”, de akkor is bevonjuk őket, amikor a technikai megvalósítás olyan új kihívásokat vet fel, amelyek erkölcsi és etikai útmutatást igényelnek. Itt jön be az emberközpontú algoritmustervezés.
(Kiemelt kép: Unsplash+)
