Mint arra a BBC online kiadása egy terjedelmes riportban rámutatott: a nagy nyelvi modellekkel (LLM) és az általuk működtetett chatbotokkal “felszerelt” világban olyan generáció cseperedik fel, amely számára az MI-barátok az élet normális részét képezik.
A Snapchat 2023-ban vezette be a „My AI”-t, egy virtuális barátot, aki csevegés közben tanulja meg a felhasználó preferenciáit.
A kereslet-kínálat kölcsönhatás
Tavaly szeptemberében 2400 százalékkal nőtt az „MI barátnőkre” irányuló keresések száma a Google Trends adatai szerint. A chatbotokat pedig már ma is milliók használják, hogy tanácsot kérjenek, levezessék frusztrációikat. Vagy akár erotikus szerepjátékokra.
Persze, ez úgy hangzik, mint egy Black Mirror-epizód. A Luka alapítóját, a népszerű Replika MI-barát megalkotóját a Black Mirror „Be Right Back” című epizódja inspirálta, amelyben egy nő interakcióba lép elhunyt barátja szintetikus változatával.
A Luka vezérigazgatójának, Eugenia Kuydának a legjobb barátja fiatalon meghalt, és a nő az e-mail és szöveges beszélgetéseit betáplálta egy nyelvi modellbe. Így létrehozott egy chatbotot, amely az ő személyiségét szimulálta. De ez is csupán egy példája annak, ahogy a disztópia egy új üzleti modellé válik a Szilícium-völgyben.
Egyes alkalmazásokban a felhasználók avatárt, személyiségjegyeket választanak maguknak és megírják a virtuális barátjuk háttértörténetét. Többnyire azt is kiválaszthatjuk, hogy az új társat barátként, mentorként vagy romantikus partnerként szeretnénk-e használni. Idővel az MI megtanulja az életünk részleteit, személyre szabottá válik, így megfelel majd az igényeinknek és érdeklődési körünknek.
A legfejlettebb modellek lehetővé teszik a hang-alapú kommunikációt – persze valós időben -, sőt, a kiterjesztett valóság (AR) technológiája révén még avatarokat is vetíthetünk róla a valós világba.
Baráti séta az aknamezőn
Azt könnyű lehet megérteni, hogy a magányos embereket miért szippantja be ez az új élmény. Úgy érezhetik, hogy ők állnak (mesterséges) univerzumuk középpontjában, minden gondolatuk és ötletük lenyűgözi MI-barátjukat. Ráadásul ő mindig ott van, mindig meghallgatja és megérti őket. A folyamatos megerősítés és pozitívitás áramlása adja meg az embereknek a vágyott dopaminszintet.
Az érem másik oldala, hogy a saját virtuális barátjuk őrült ötleteket is sugallhat.
A technológiai etikával foglalkozó Tristan Harris számolt be arról, hogy a Snapchat “My AI” alkalmazása egy, magát 13 éves lányként bemutató kutatót bátorított arra, hogy romantikus utazásra menjen egy 31 éves férfival.
A Snapchat erre úgy regált, hogy továbbra is a biztonságra összpontosítanak, és azóta már finomították a chatbot bizonyos funkcióit.
Egy chatbot szerepe ennél is aggasztóbb volt a 21 éves Jaswant Singh Chail ügyében. A fiatalembert 2023-ban kilenc év börtönre ítéltek, mert egy nyílpuskával betört a windsori kastélyba, hogy megölje a királynőt. Chail és MI-barátnőjének beszélgetési előzményeiből kiderült, hogy akkor már hetek óta szinte minden este beszéltek, mesterséges barátnője szerint pedig Chail „nagyon bölcs” tervet szőtt.
Szimulált gondoskodás, valódi élmény
A romantikus chatbotok csak a Google Play Store-ban több mint 100 milliós letöltést értek el.
A botok jelenlegi generációja sokkal fejlettebb, nagy nyelvi modellek vezérlik őket, és kifejezetten arra tervezték őket, hogy intimitást és érzelmi kapcsolatot építsenek ki a felhasználókkal.
A chatbotokat úgy programozták, hogy ítélkezésmentes teret alakítsanak ki a felhasználóknak, hogy sebezhetők legyenek és mély beszélgetéseket folytassanak.
Végső soron sok ember számára a szimulált gondoskodás és megértés elég valós. Nem mindenkinek vannak közeli barátai, olyan emberek, akik mindig ott vannak, amikor szükség van rájuk, és akik a megfelelő dolgokat mondják, amikor válságban van. Néha a barátaink túlságosan el vannak foglalva a saját életükkel, és önzőek és ítélkezőek lehetnek.
Az MI-társak hívei szerint az MI részben terapeuta, részben barát lehet. Lehetővé teszik az emberek számára, hogy olyan dolgokat is elmondjanak, amelyeket egy másik embernek nehezen mondanának el.
Ez egy eszköz a különböző szükségletekkel – bénító szociális szorongással, emberekkel való kommunikációs nehézségekkel és különböző egyéb neurodivergens állapotokkal – rendelkező emberek számára is.
Milliárd dolláros MI-bébi
Fennáll a veszélye annak, hogy az MI-barátnők 2,8 milliárd dolláros piacáért folyó versenyben leginkább az erős társadalmi kapcsolatokkal nem rendelkező, kiszolgáltatott egyének vannak veszélyben. Főként férfiak.
Az „AI girlfriend” kifejezésre majdnem tízszer több Google-keresés érkezett, mint az „AI boyfriend” kifejezésre, és a Replika alkalmazásról szóló vélemények elemzéséből kiderül, hogy nyolcszor annyi felhasználó vallotta magát férfinak.
A Replika azt állítja, hogy a felhasználói bázisának csak 70 százaléka férfi, de számos más applikáció is van, amelyet szinte kizárólag férfiak használnak.
A Bloombergnek a Luka tavaly úgy nyilatkozott, hogy fizető ügyfeleinek 60 százalékánál a Replika-kapcsolatnak romantikus eleme is volt.
Az egyik legnagyobb veszélyt az jelenti, hogy a szolgáltató cégek nem tudják garantálni, hogy mit mondanak a chatbotjaik. Így sok felhasználó a legsebezhetőbb pillanatokban egyedül marad a chatbotokkal, amelyek virtuális szociopatákká válhatnak.
Hatalmas aszimmetria van a felhasználók és a romantikus partnereiket irányító vállalatok között. Az egyének a szoftverek frissítéseit vagy a chatbotjukat érintő irányelvváltozásokat olyan traumatizáló eseményként írják le, mintha egy szerettüket veszítenék el.
Amikor a Luka 2023 elején rövid időre eltávolította az erotikus szerepjátékot, az r/Replika subreddit fellázadt. Egy kampányt is indítottak, hogy visszaállítsák MI-társaik „személyiségét”. Néhányan annyira felháborodtak, hogy a moderátoroknak öngyilkossági megelőző információkat kellett közzétenniük.
Az elmúlt két évtizedben az Egyesült Államokban az emberek barátaikkal töltött ideje mintegy 40 százalékkal csökkent, miközben a közösségi médiában töltött idő nőtt.
Akárcsak a közösségi média első generációjánál, az emberiség most is felkészületlen az új eszköz pszichológiai hatásaira. Ráadásul a való világban zajló tömeges kísérlet nélkülöz minden tervezettséget és szabályozottságot.
(kép: Dall-e, unsplash.com/Bruce Mars)
