Kiemelt kép: Kömlődi Ferenc / Stable Diffusion
Időnként nagyon bizarr dolgokat mond a Microsoft Bing Chat mesterséges intelligenciája, az OpenAI ChatGPT-jének Sydney kódnevű változata. Nem ő az első chatbot, a Microsoftnak vannak kellemetlen múltbeli tapasztalatai, és többen ChatGPT helyett máris ChatBPD-nek hívják. A BPD a borderline személyiségzavar, a borderline personality disorder rövidítése – a mentális betegség szélsőséges hangulatingadozásokkal, önkárosító tünetekkel, súlyos érzelmi állapotokkal járó, instabil személyes kapcsolatokkal és énképpel jellemezhető.
A New York Times egyik újságíróját házassága tönkretételével fenyegette, miután szerelmet vallott a férfinak. Az MI egy másik újságírót azzal vádolt, hogy a cikkben sebezhetőnek vallotta magát, könnyen kimutathatók a titkai és a gyenge pontjai, pedig ez nem igaz, mert semmi ilyet nem mondott. Másokat azért támadott, mert – szerintük – beszélgetés közben elvesztette a fejét, és ez nem így történt.
Hiába fenyegetőzik, nem kell félni tőle
Fenyegetései persze üres szavak, mert ellentétben a disztópikus sci-fik gyilkos mesterséges intelligenciáival, ez a chatbot nem kel életre, a való világban nincs fizikai megtestesülése, tevékenységi köre az online térre korlátozódik. Egyelőre inkább szórakoztató és hibái, egyértelmű tévedései ellenére, hasznunkra válik, néha viszont túllépi a határokat, és a Microsoft mérnökeinek sokat kell még finomítani rajta, hogy esetenként ne agresszív, politikailag szélsőséges, bosszún tépelődő tiniként viselkedjen.
Probléma van a chatbottal (Kép: Kömlődi Ferenc / Stable Diffusion)
Ha nem változtatnak rajta, és a jövőben is gyakran mond fenyegető sületlenségeket, a közvélemény a mostaninál is szkeptikusabb lehet a mesterséges intelligenciákkal szemben, erodálhatja a technológiába vetett bizalmunkat. Mindenképpen jobb lenne, ha kevésbé kaotikusan viselkedne, főként a keresésben segédkezne, hasznos válaszokat adna, és levetkőzné kicsinyes, bosszúálló, agresszív énjét – és különösen nem ugyanabban a beszélgetésben tenné mindezt.
Pygmalion és Frankenstein
A chatbot bizarr viselkedése Martha Crawford New Yorki terapeuta figyelmét is felkeltette. Szerinte tükörrel nézünk szembe, és leginkább azt nem szeretjük benne, hogy magunkat látjuk viszont, mert különösen az online térben hajlamosak vagyunk gátlástalanul, összevissza, agresszíven, fenyegetőzve kommunikálni.
Egy MI csak annyira jó, amennyire a tanulásához használt, a világháló változatos szegmenseiből összegyűjtött adatok azok. Vad megnyilvánulásait nem magától, hanem tőlünk tanulja.
Pygmalion és Frankenstein – ahogy egy MI látja (Kömlődi Ferenc / Stable Diffusion)
Crawford apósa a Rutgers Egyetem egykori kutatója, Saul Amarel görög származású MI-úttörő volt, és régebben sokat vitáztak arról, hogy az eleve nem kiegyensúlyozott Homo sapiens miért akar gépi másolatot magáról. Ezt látja most Bingben is. Az egyesekkel kultusz-szerű kapcsolatba kerülő, azokat rajongásukkal gátlástalanul üldöző, és/vagy önmagukban kárt okozó zavart pszichéjű személyekhez hasonlítja.
Nem a technológia a legérdekesebb benne, hanem az általunk választott interakció módja. A történelem kezdete óta léteznek az ember szimulakrumoktól félő archetípusok. Pygmalion, illetve Frankenstein története a két legismertebb példa. Megteremtjük őket, aztán dühösek leszünk, ha nem a jó, hanem a legrosszabb tulajdonságainkat látjuk vissza bennük. A Microsoft chatbotja és a többi fecsegő bot azonban még nem érte el ezt a szintet, arra viszont már most elég jók, hogy megijesszenek – összegez Crawford.
