(Kiemelt fotó: Unsplash)
A cégvezetők minden iparágban az igazgatótanács és a vezérigazgatók nyomásával szembesülnek, hogy kitalálják, hol lehet generatív MI-megoldásokat minél hamarabb vállalatukban bevezetni. Az indoklás ismerős: egyfelől izgatottság az új lehetőségek kiaknázása miatt, másfelől pedig félelem a versenytársaktól való látványos lemaradástól. Az innovációra való törekvés közepette azonban sokaknál valós és megalapozott aggodalmak is rejlenek. A Samsung betiltotta például a ChatGPT használatát, miután az alkalmazottak érzékeny vállalati adatokat töltöttek fel a platformra, melyek később kiszivárogtak. A mesterséges intelligencia jól dokumentált „hajlama”, hogy diszkriminatív kimeneteket generál, és ez a generatív „változatára” is vonatkozik. Eközben a mesterséges intelligenciával foglalkozó vállalatok súlyos perekkel néznek szembe: a képeket generáló StableDiffusiont a Getty Images perli, míg a Microsoft, a GitHub és az OpenAI egy csoportos perrel néz szembe. A technológiáért felelős emberek és vállalatok is megkongatták a vészharangokat, kezdve az MI különböző „keresztapáitól”, mint Geoffrey Hinton és Yoshua Bengio, egészen Sam Altmanig, az OpenAI vezérigazgatójáig. Állításuk szerint az embereket a közeljövőben a kihalás (vagy legalábbis a „gyilkos robotok” uralma) fenyegeti. Más vélemények arra figyelmeztetnek, hogy a közelgő amerikai elnökválasztás előestéjén könnyű lesz magas színvonalú félretájékoztatási kampányokat létrehozni, míg megint mások az emberi munkaerőt felváltó mesterséges intelligencia által okozott potenciális gazdasági katasztrófára figyelmeztetnek. Az elmúlt hónapokban azt tapasztalhattuk, hogy a vállalati vezetők mind a technológiai, mind a nem technológiai szektorban látványosan zavarban vannak, hogy mire is kellene figyelniük a legújabb ICT-nóvum kapcsán. A riasztások kakofóniája zavart és aggodalmat keltett bennük, különösen annak fényében, hogy a generatív MI mindenki számára elérhető a szervezetükben, nem csak az adattudósok záloga. Úgy érezhetik mintha szervezetünkben minden munkavállaló egy potenciális „gyilkos fegyvert” tartogatna a kezében.
Milyen kockázatok miatt kell valóban aggódni?
Bár a generatív MI számos valódi etikai kockázatot jelent, ezek a kockázatok nem vonatkoznak minden egyes vállalatra. Először is, még ha az érvelés kedvéért el is fogadjuk, hogy a mesterséges intelligencia gazdaságra gyakorolt kumulatív hatása tömeges munkanélküliséget eredményez, ebből nem következik, hogy bármelyik vállalkozásnak kötelessége lenne ezt egyfajta „luddita és világot megváltó hősként” megakadályozni. Végül is a vállalkozások felelősségének szokásos felfogása szerint nem kötelesek alkalmazottakat felvenni vagy megtartani. Lehet, hogy etikai szempontból jó dolog megtartani az embereket, amikor hatékonyabb és olcsóbb mesterséges intelligenciával lehetne őket helyettesíteni (és bizonyos esetekben erre is bátorítják a vállalatokat a szakmai korifeusok nemcsak az MI-zsurnaliszták), de ez általában nem tekinthető etikai követelménynek. Másodszor, a félretájékoztatás terjedésének veszélye vitathatatlanul az egyik legnagyobb kockázat, mellyel a modern és digitális demokráciáknak szembe kell nézniük, de a legtöbb vállalat nem foglalkozik azzal, hogy segítse az egyének vagy vállalkozások információterjesztését. Nem valószínű, hogy ez a kockázat az Ön szervezetét érinti, hacsak nem egy közösségi médiavállalatot igazgat. Harmadszor, még ha el is fogadjuk, hogy a mesterséges intelligencia a közeljövőben egzisztenciális kockázatot jelent az emberiségre nézve, az Ön szervezete valószínűleg csak nagyon keveset tehet ellene. De ha tehet(ne) is valamit, akkor mindenképpen tegye minél előbb azt meg. Most, hogy ezeket az etikai kockázatokat félretettük, térjünk át azokra, melyekkel a legtöbb vállalatnak szembe kell(ene) néznie.
Az első dolog, amit a cégeknek meg kell tenniük, az a kérdés: milyen etikai, reputációs, szabályozási és jogi kockázatokkal jár a generatív mesterséges intelligencia és a nem generatív mesterséges intelligencia? Illetve milyen kockázatokat súlyosbít? Ami az első kérdést illeti, a nem generatív mesterséges intelligencia könnyen hozhat létre elfogult vagy diszkriminatív kimeneteket. Emellett olyan „végeredményeket” is produkálhat, melyek nem magyarázhatók meg, ez az úgynevezett „fekete doboz” probléma. A nem generatív mesterséges intelligencia pedig olyan adatokon képezhető ki vagy hozhat maga ilyeneket létre, melyek sértik mások magánéletét. Végül pedig a nem generatív mesterséges intelligencia számos etikai kockázata felhasználási eset-specifikus. Ez azért van így, mert az, hogy egy szervezetnek milyen etikai kockázatokkal kell szembenéznie, attól függ, hogy a nem generatív mesterséges intelligenciát milyen különböző kontextusokban alkalmazzák.
A generatív mesterséges intelligencia mindezen etikai kockázatokat osztja a nem generatív mesterséges intelligenciával. Mind a kép-, mind a szöveggenerátorok kimeneti eredményei bizonyítottan elfogultak. Ami a fekete doboz problémáját illeti, maguk az adattudósok sem tudják megmagyarázni, hogy a kimenet hogyan lesz ilyen jó. És mivel ezeket a modelleket az internetről származó adatokkal képzik ki, ezek az adatok mind az egyénekre vonatkozó adatokat, mind pedig az emberek vagy szervezetek szellemi tulajdonát képező adatokat tartalmazzák. Végül, ahogy a nem generatív mesterséges intelligencia esetében, a generatív mesterséges intelligencia etikai kockázatai is felhasználási eset-specifikusak. De van egy probléma ebben az érvelésben. A generatív mesterséges intelligencia általános célú mesterséges intelligencia. Ez azt jelenti, hogy minden iparágban számtalan felhasználási esetben alkalmazható. Nem csak ez, de a szervezetek ma már több ezer (ha nem tíz- vagy százezer) alkalmazottal rendelkeznek, akik hozzáférhetnek ezekhez az új eszközökhöz. A szervezeteknek nemcsak az adattudósok és mérnökök által tervezett mesterséges intelligencia felhasználási eset-specifikus etikai kockázataival kell megküzdeniük, hanem azzal a számtalan kontextussal is, melyben alkalmazottaik használhatják a mesterséges intelligenciát. Ezzel elérkeztünk a második kérdésünkhöz: Milyen etikai, reputációs, szabályozási és jogi kockázatokkal jár a generatív mesterséges intelligencia, illetve milyen kockázatokat súlyosbít a nem generatív mesterséges intelligenciához képest?
A generatív mesterséges intelligencia etikai kockázatai
Legalább négy olyan ágazatközi kockázat van, melyet a szervezeteknek kezelniük kell: a hallucináció, a mérlegelés, az aljas üzletkötő és a megosztott felelősség problémája. Ezeknek a kockázatoknak a részletes megértése segíthet a vállalatoknak megtervezni, hogyan akarják kezelni majd a dolgos MI-hétköznapokban őket.
A hallucinációs probléma
Az OpenAI ChatGPT-jéhez, a Microsoft Bingjéhez és a Google Bardjához hasonló LLM-ekkel kapcsolatos egyik jelentős kockázat, hogy hamis információkat generálnak. Arra, hogy ez mennyire kockázatos, rengeteg példa van. Gondoljunk csak az orvosokra, akik LLM-et használnak a betegek diagnosztizálására, a fogyasztókra, akik LLM-et használnak pénzügyi vagy párkapcsolati tanácsadásra, vagy azokra az ügyfelekre, akik egy termékről kérnek információt, hogy csak néhányat említsünk a számtalan kontextusból, melyben egy LLM-et bevethetnek. A hallucinációs problémának van néhány jelentős aspektusa, melyet ki kell emelni. Először is, az LLM állításainak valóságtartalmának ellenőrzése nem automatizálható. Nincs olyan szoftver, mely képes lenne olyan programot futtatni, mely az állításokat a valósággal összeveti. Az állítások igazságának és valótlanságának ellenőrzését kézzel kell elvégezni. Másodszor, az emberek hajlamosak megbízni a szoftverprogramok kimeneteiben. Valójában ez a tendencia olyannyira bevett, hogy már neve is van rá: „automatizálási előítélet”. Így az elvégzendő kézi ellenőrzésnek az automatizálási elfogultság ellensúlyozó erejével szemben kell megtörténnie. A problémát súlyosbítja az LLM-ek által gyakran megnyilvánuló tekintélytisztelet hangneme. Az LLM-ek nem csak túl gyakran tévednek, hanem túl gyakran magabiztosan is tévednek. Harmadszor, az emberek lusták, és gyors válaszokat akarnak (ami az egyik ok, amiért egyáltalán LLM-hez fordulnak), és a kimenetek valódiságának manuális ellenőrzése elég sok erőfeszítést igényelhet(ne), és lassan történik. Negyedszer, ahogy a fenti analógia is kiemeli, ez egy olyan eszköz, melyhez a szervezetben szó szerint mindenki hozzáférhet. Ötödször és végül, sokan nincsenek tisztában azzal, hogy az LLM-ek magabiztosan képviselik a hamis állításokat, ami különösen sebezhetővé teszi őket az eszközre való túlzott támaszkodással szemben. Ennek fényében fontos kiemelni, hogy pusztán annak közlése az alkalmazottakkal, hogy az LLM-ek hamis információkat is kiadhatnak, nem elég ahhoz, hogy megakadályozza őket abban, hogy automatikusan hagyatkozzanak rá. A tudás egy dolog, a cselekvés egy másik. Az automatizálási előítélet, a lustaság és a gyorsaság iránti igény miatt valószínűleg gyakori lesz az „ez a kimenet valószínűleg rendben van” racionalizálása. Az ilyen ellenségek leküzdéséhez átvilágítási folyamatokra, az ezeknek a folyamatoknak való megfelelésre és a használat nyomon követésére van szükség, csakúgy, mint más emberek bevonására, akik korrigálhatják valaki másnak a túlságosan is emberi hiányosságait.
A mérlegelés problémája
Úgy tűnik, hogy az LLM-ek képesek mérlegelni (olyan koherens érvelést bemutatni, mely gondolkodásnak tűnik), de a valóságban csak egy vékony hasonmást hoznak létre, ami veszélyes lehet. Tegyük fel, hogy egy pénzügyi tanácsadó nem biztos abban, hogy mit ajánljon, és ezért egy LLM-től kér tanácsot. Az LLM javasolhat egy bizonyos befektetési stratégiát, a tanács mögötti állítólagos érveléssel együtt. De ne tévesszen meg senkit: még ha úgy is tűnik, hogy az LLM magyarázatot ad a kimenete mögött, valójában csak egy hihetőnek hangzó indokot generál, mely azon a folyamaton alapul, hogy megjósolja, mely szavak illenek össze. Az LLM-ek feladata, hogy megtalálják a következő szóhalmazt, mely maximálisan összhangban van az előtte lévő szavakkal. A kimeneteknek értelmet kell adniuk a felhasználó számára. Az olyan új LLM-ekben, mint a GPT-4, az a megdöbbentő, hogy értelmet tudnak adni anélkül, hogy tudnánk, mit is mondanak valójában. Egy LLM nem érti a kimeneteit. Nem érti a szavak jelentését. Meglepően sikeres (bár messze nem tökéletes) következő szavak előrejelzője. Ez azt jelenti, hogy amikor magyarázatot kérünk egy LLM-től arra, hogy miért ajánlotta X-et, valójában nem ad magyarázatot arra, hogy miért is ajánlotta az X-megoldást. Megjósolja a következő szavakat, amelyek „szerinte” összhangban vannak az eddig lezajlott beszélgetéssel. Nem artikulálja az okokat, amiért X-et ajánlotta, mert nem ad kimeneteket az okokra. Nem mérlegel vagy dönt. Csak megjósolja a következő szavak valószínűségét. Tehát nem tudja megadni az okokat, amiért X-et ajánlotta, mert a kimenete valószínűségen alapul, nem pedig okokon. Ehelyett okokat gyárt, melyek a gyanútlan felhasználó számára valóban úgy néznek ki, mint a kimenetek mögötti okok. Ez legalább két problémát generál. Először is, könnyen becsapható. Tegyük fel például, hogy a felhasználó legyőzi az automatizálási előítéleteit, lustaságát és a gyorsaság iránti igényét, és elkezdi vizsgálni az LLM-et, hogy megindokolja a válaszát. Feltehetően azért fordult először az LLM-hez, mert bizonytalan volt a válaszban egy összetett helyzetben. Most az LLM türelmesen és tekintélyt parancsolóan elmagyarázza a felhasználónak az ajánlása (állítólagos) indoklását. A felhasználónak most már elég könnyű a látszólag tekintélyes, megfontolt LLM-nek engedelmeskedni. És most újra ott vagyunk, ahol az elfogultságuk, lustaságuk és gyorsasági igényük leküzdésére tett erőfeszítéseik előtt voltunk.
Másodszor, néha számít, hogy egy személy mérlegel. Míg vannak olyan forgatókönyvek, melyekben csak a teljesítmény számít, vannak olyanok, melyekben számunkra (vagy legalábbis néhányunk számára) számít, hogy van egy személy a másik oldalon, aki mérlegeli, hogyan bánjon velünk megfelelően. Egy büntetőjogi kontextusban például nemcsak az érdekelhet, hogy a bíró helyes választ kapjon, hanem az is, hogy mérlegeljen. Az, hogy gondolkodik Önről és az Ön ügyéről, része annak, hogy a bíró tiszteli Önt. Ennek a döntésnek a számítógépre való átruházása etikailag vitathatóan kifogásolható. Hasonlóképpen, jó pénzügyi tanácsot szeretnénk, de azt is tudni akarjuk, hogy ezt a tanácsot olyasvalakitől kapjuk, aki aktívan mérlegeli, hogy mi a legjobb számunkra. A kapcsolatokban (különösen a nagy tétekkel járó helyzetekben) van egy emberi elem, amitől vitathatatlanul nem akarunk megszabadulni. Sőt, még ha Ön, az olvasó, nem is így érez, mindazonáltal a szervezetének néhány ügyfele valószínűleg így fog vélekedni. Ebben az esetben, az emberi elem megtartására irányuló kívánságuk tiszteletben tartása érdekében nem szabad a mérlegelő embereket hamis mérlegelő szoftverrel helyettesíteni. A hallucináció problémájához hasonlóan a mérlegelés problémájának orvoslása a kellő gondossági folyamatok, a felügyelet és az emberi beavatkozást igényli.
Az aljas üzletkötő probléma
Talán a legjobb módszer arra, hogy bárkinek bármit is eladjunk, az, ha beszélünk vele. Bizonyos esetekben az értékesítők úgy adnak el, hogy eközben felsrófolják az áraikat. Más esetekben viszont ott van a dörzsölt értékesítő, aki kiválóan ért az emberek „érzelmi gombjainak” megnyomásához, hogy rávegye őket olyan dolgok megvásárlására is, amiket valójában nem is akarnak. Valójában például egy autókölcsönző cégnél sokszor alkalmaznak egy olyan taktikát (úgy veszik rá, hogy autóbiztosítást vásároljanak), hogy a bérlőben félelmet keltenek az autóval kapcsolatos esetleges jövendőbeli balesetektől. Hasonlóképpen, a weboldalak tervezésében is vannak olyan módszerek, melyekkel manipulálni lehet a felhasználókat, hogy többek között feladják a fiókjuk törlésére tett kísérletüket; ezeket „sötét mintáknak” nevezik. Most tegyük fel, hogy az Önök szervezetében néhány ember (akiket a pénzügyi ösztönzők és a bizonyos számok elérésére irányuló nyomás motivál) kifejleszt egy LLM értékesítési chatbotot, mely nagyon jól tud manipulálni embereket. Ez „elolvasta” az összes könyvet arról, hogyan kell az emberek 2érzelmi gombjait nyomogatni”, és az összes könyvet a tárgyalásról, és arra utasították, hogy úgy beszélgessen a fogyasztókkal, hogy az megfeleljen annak, amit megtanult. Ez remek recept a szervezete megbízhatóságának aláásására. Amikor a felhasználókat szisztematikusan és széles körben becsapja a fogyasztókkal szembenéző LLM chatbotja, akkor elég lojalitást veszít ahhoz, hogy a bizalom visszaszerzésére több pénzt költsön, mint amennyit a csalással keresett. (Arról nem is beszélve, hogy etikailag durva dolog az embereket szisztematikusan megtéveszteni, hogy megvásárolják a termékünket.)
A megosztott felelősség problematikája
A legtöbb esetben a generatív MI-modelleket, más néven „alapmodelleket” egy maroknyi vállalat építi. Ha az Ön szervezete a generatív MI-t ezen vállalatok egyikétől szerzi be, akkor valószínűleg a vállalat fogja „finomra hangolni” ezt a modellt. A házon belüli adattudósok és mérnökök azért vannak, hogy ezt a munkát elvégezzék. Ha azonban valami etikai szempontból félresiklik a finomhangolt generatív MI alkalmazása során, felmerül a kérdés, ki a lesz a felelős érte? A kérdésre a válasz bonyolult. Először is, az alapmodellek gyakran fekete dobozok. Ez azt jelenti, hogy mi (beleértve az adattudósokat is) nem tudjuk megmagyarázni, hogy az MI hogyan jut el a kimenetekhez a bemenetek ismeretében. Másodszor, sok vállalat, mely az alapmodelleket építi, nem különösebben átlátható a döntésekkel kapcsolatban, melyeket az MI tervezési, építési és validálási életciklusa során hoztak. Például nem feltétlenül osztják meg, hogy milyen adatokat használtak a mesterséges intelligencia képzéséhez. Az Ön szervezete tehát szembesül a kérdéssel: elegendő információval rendelkezünk-e az alapmodellt építő beszállítótól ahhoz, hogy a modell finomhangolása és bevetése során megfelelő etikai, hírnév-, szabályozási és jogi átvilágítást végezhessünk?
Hadd fogalmazzuk meg másképp. Tegyük fel, hogy az Ön szervezete egy generatív mesterséges intelligencia modellt alkalmaz, és a dolgok etikailag félresiklanak. Ha az Ön szervezete elegendő információval rendelkezett az alapmodell szállítójától, hogy elvégezhette volna azokat a teszteket, melyek feltárták volna a problémát, de nem végezte el ezeket a teszteket, akkor (minden más esetben egyenlő) a felelősség az Ön szervezetének vállát nyomja. Másrészt, ha az Ön szervezete nem rendelkezett elegendő információval ahhoz, hogy ne tudta volna hatékonyan elvégezni az átvilágítást, akkor a felelősség mind a szállítót, mind az Ön szervezetét terheli. A szállítót terheli, mert neki kellett volna megadnia Önnek azokat az információkat, melyekre az Ön szervezetének szüksége volt az átvilágítás elvégzéséhez. Az Ön szervezetét terheli, mert vagy a csapatai nem vették észre, hogy nem rendelkeztek elegendő információval, vagy tudtak róla, de úgy döntöttek, hogy mégis továbblépnek. Ez megmutatja, hogy mennyire fontos a „megvalósíthatósági elemzés” egy generatív MI-modell beszerzésekor, majd finomhangolásakor. Ennek az elemzésnek részét kell képeznie annak, hogy a szervezet csapata fel tudja-e mérni, hogy mire van szükségük a kellő gondossággal végzett vizsgálathoz, hogy megkapják-e ezeket az információkat a beszállítótól, és hogy mik a „kellően biztonságos telepítéshez” szükséges viszonyítási pontok.
A kockázat kezelése
E problémák fényében egyes vállalatok arra az útra léptek, hogy megtiltják a generatív MI használatát a szervezetükben. Ez viszont nem bölcs dolog. Valójában ez egy kicsit olyan, mintha azt mondanánk a tinédzsereknek, hogy legyenek önmegtartóztatóak, majd megtagadnánk a biztonságos szexuális felvilágosítást; nyilván biztosak lehetünk abban, hogy rossz dolgok fognak történni. Ez az egyik oka annak, hogy a generatív mesterséges intelligencia biztonságos használatáról szóló vállalati szintű oktatásnak (beleértve a világosan megfogalmazott és egyszerű folyamatokat, melyek segítségével a kérdéseket a szervezeten belüli megfelelő szakértőknek és hatóságoknak tehetik fel) olyan prioritást kell kapnia, amilyet a generatív mesterséges intelligencia előtt nem. Mindezek mellett a generatív mesterséges intelligencia etikai kockázatai nem annyira újszerűek, hogy megkérdőjelezzék a mesterséges intelligencia etikai kockázati programjának megtervezésére és végrehajtására vonatkozó meglévő megközelítéseket. A fentiekben megfogalmazott négy probléma rávilágít arra, hogy az ilyen típusú kockázatokra további figyelmet kell fordítani, de a kezelésükre vonatkozó alapvető stratégiák megegyeznek a nem generatív MI-ra vonatkozó stratégiákkal. Ideértve többek között az MI életciklusának minden szakaszában elvégzendő etikai kockázati átvilágítási folyamatot, az MI etikai kockázati bizottságot, az MI etikai kockázatok tanulását és fejlesztését a vállalaton belül. Valamint az MI etikai kockázati program bevezetésének, betartásának és hatásának mérésére szolgáló mérőszámokat és KPI-ket.
