(Kiemelt kép: Unsplash+)
„A félreértés, jelentészavar-csapda. Halálos figyelmetlenség, amit egy jel félreértelmezése idéz elő. Ezt példázza annak a katonának a története, aki á piacon találkozik a Halállal, akinek fenyegető mozdulatát véli felfedezni. Gyorsan a Király palotájába siet, hogy elkérje tőle legjobb lovát, hogy az éj leple alatt elszökhessen a Halál elől messze, nagyon messze, egészen Szamarkandig. Erre a király palotájába hívatja a Halált, hogy megfeddje, amiért megrémítette egyik legjobb szolgáját. A Halál meglepődve válaszol: De hisz én nem akartam megijeszteni a katonát. Csupán egy önkéntelen mozdulatot tettem, mert meglepődtem, hogy itt látom ezt a katonát, amikor holnap Szamarkandban kell vele találkoznom.”
Ha öt évvel ezelőtt azt mondják nekünk, hogy lesz egy gép, mely úgy ír, mint egy ember, képes beszélgetést utánozni, kérdésekre válaszolni és menet közben tanulni, azt mondtuk volna, hogy csupán csak álmodozunk. Mégis, itt vagyunk. De ahogy ezt a hihetetlen fejlődést figyeljük, egy kérdés kísért minket. Egy kérdés, ami talán egy egzisztenciális filozófiai könyvből származik, de mégis belülről mardos. Rólunk szól, a célunkról, a helyünkről a dolgok nagy rendszerében.
Képzeljünk el egy olyan világot, ahol a gépek nem csak elérik kognitív képességeinket, hanem túl is szárnyalják azokat: ahol „túlgondolnak, túl-dolgoznak és túl-innoválnak” minket. Hol állunk akkor? Mi lesz a munkánkkal, a szerepeinkkel, az identitásunkkal?
Entfremdung: az emberi értékek elidegenedése
Szeretnénk, ha elképzelnének egy átlagos napot az életükből, tíz év múlva. Arra ébredünk, hogy a mesterséges intelligencia asszisztensük halk zümmögése ébreszt minket. Már elkészítette a napirendet, az utolsó pillanatig optimalizálva azt. Az okosotthonunk lefőzte a legtökéletesebb kávét, pontosan a mi ízlésünk szerint. Az autonóm autónk pedig készen áll, hogy rekordidő alatt elrepítsen minket a munkahelyünkre. A napunk minden egyes eleme hihetetlenül hatékony, minden óramű pontossággal működik, nincs helye hibáknak, nincs helye a kiszámíthatatlanságnak. Zseniálisan hangzik, nem igaz? A technológia és az élet tökéletes szimfóniája.
De hol van az a kaotikus varázslat, ami az életet, nos, élettel tölti meg? Az a megszámlálhatatlan szikra, ami „gazdagítja” a létezésünket? Mi, emberek nem arra vagyunk teremtve, hogy óramű pontossággal működjünk, mi spontaneitásra, kreativitásra, empátiára vagyunk teremtve. Arra teremtettünk, hogy a vonalakon kívül „színezzünk”, álmodjunk, érezzünk és kapcsolódjunk.
Most képzeljük el, hogy a kapcsolatainkat ugyanez a hiper-hatékonyság irányítja. A mindig éber mesterséges intelligenciánk tanácsokat ad, hogyan optimalizálhatjuk a személyes interakcióinkat. Kompatibilitási algoritmusok alapján elkezd barátokat és partnereket ajánlani, percre pontosan beosztja a lógásainkat, és még arra is rávezet, hogy mit mondjunk a nehéz beszélgetések során. Mi történik ezután azokkal a véletlen találkozásokkal, melyekből életre szóló barátságok szövődnek? Azokkal a szívhez szóló beszélgetésekkel, melyek az éjszaka hajnali óráiba nyúlnak? A megmagyarázhatatlan kémiával, ami két ember között lángra lobban, dacolva minden logikával és értelemmel?
A veszély nem az, hogy a mesterséges intelligencia hideg, számító gépeket csinál belőlünk. Ez sokkal alattomosabb. Elkezdhetjük előnyben részesíteni azokat a tulajdonságokat, melyekben ezek a rendszerek kiemelkednek (hatékonyság, kiszámíthatóság, számszerűsíthetőség) azokkal a dolgokkal szemben, melyek emberré tesznek minket. Lehet, hogy az empátiát hatástalannak, a kreativitást nem számszerűsíthetőnek, a spontaneitást pedig zavarónak fogjuk tekinteni. Képzeljünk el egy olyan világot, ahol már nem értékeljük a vigasztaló ölelést, a közös nevetést, a hirtelen jött autós kirándulást vagy a kézzel írott, kusza, szívből jövő érzelmekkel teli levelet. Ahol az emberi érintést felcseréljük egy gépiesebb, hatékonyabb létezésre.
„Senki sem követett el hibát ebben a történetben, ha bárki is hibásnak bizonyulna, úgy még a Király is annak tekinthető. Nem, a szereplők látszólagos szabadsága ellenére (a Halál is megtehette mozdulatát, a katona is szabadon menekülhetett) mindenki egy olyan törvénynek engedelmeskedett, amelyet sem ő, sem más nem ismerhetett. Ennek a játéknak a szigorú szabálya, amelynek, mint minden igazi törvénynek, titokban kell maradnia, az, hogy a Halál nem egy tolakodó esemény; bekövetkezéséhez szükség van a csábítás .mozzanatára, tehát csak az adott pillanatban érvényes és felfejthetetlen cinkosságra, talán csak egy, ámde a szereplők által meg nem fejtett jelre.”
A mesterséges intelligencia által kiváltott szolipszizmus
Képzeljük el egy pillanatra, hogy belépünk egy olyan világba, ahol minden, amire valaha is vágytunk, életre kel. Egy olyan birodalom, melyet minden szeszélyünkre és vágyunkra szabtak, ahol a való világ evilági realitásai többé nem érvényesek. Minden élményt, minden érzést tökéletesen a mi ízlésünk szerint alakít ki egy rendkívül kifinomult mesterséges intelligencia.
Ön is hajlandó lenne megtenni az ugrást, hogy maga mögött hagyja a zűrös, kiszámíthatatlan való világot, és átölelje ezt a tökéletesen felépített virtuális utópiát?
A mesterséges intelligencia technológiája elképesztő ütemben gyorsul, így ez nem valami távoli fantazmagória. Ez egy olyan lehetőség, mely egyre közelebb kerül a valósághoz. És ez csábító, nem igaz? Végül is, ki ne szeretne egy szenvedésmentes, csalódásoktól és hétköznapoktól mentes világban élni? De itt van a bökkenő: Mi történik, ha több időt töltünk ebben a hibátlan, mesterséges intelligencia által generált valóságban, mint a sajátunkban? Mi történik, ha elkezdjük jobban szeretni ezt a mesterségesen létrehozott létezést, mint a saját, „gyönyörűen tökéletlen” életünket? Itt szembesülünk egy aggasztó lehetőséggel: a társadalom egyfajta szolipszista létbe vonul vissza, ahol a valós és a virtuális közötti határok kezdenek elmosódni, sőt talán el is tűnnek.
Ebben a mesterséges intelligencia által kiváltott szolipszizmusban azt kockáztatjuk, hogy saját életünk nézőivé válunk, az élmények passzív fogyasztóivá, akik elszakadnak a valóság nyers, zsigeri szépségétől. Azt kockáztatjuk, hogy a valódi emberi kapcsolatok izgalmát egy tökéletesen szimulált interakcióra cseréljük, a valós kihívások leküzdésének elégedettségét egy játék üres diadalára. Még aggasztóbb a pszichológiai hatás. Ha egyre több időt töltünk egy olyan világban, mely körülöttünk forog, és melyet arra terveztek, hogy minden igényünket kielégítse, akkor azt kockáztatjuk, hogy önző egyéniségekké válunk, akik nehezen tudnak együttérezni másokkal, és nehezen értik meg az eltérő nézőpontokat.
És mi a helyzet a közös emberi tapasztalatokkal, a kollektív emlékekkel és eseményekkel, melyek egy társadalomként kötnek össze minket? Vajon felváltják-e ezeket az elszigetelt, egyéni tapasztalatok az egyes emberek mesterséges intelligencia által generált világában?
„A Halál nem objektív sors, hanem találkozás. Ő személyesen nem is mehetett el oda, hisz ő maga ez a találkozás, azaz a jelek és törvények célzást rejtő egymásba játszása az, ami tulajdonképpen felelős a végkifejletért. Maga a Halál ennek csak egy ártatlan szereplője. Ez jelenti a történet titkos iróniáját, és ezáltal válik többé egy erkölcsi példázatnál vagy egy leegyszerűsített halálösztön-históriánál; és úgy oldódik fel bennünk az élvezet magasztos érzésében, akár egy szellemes játékban (trait d’esprrt). A történet szellemessége felerősíti a Halál mozdulatában rejlő játékot, és a két csábítás, a Halálé és a történeté, egymásba játszik.”
Az MI befolyásolja az emberi evolúciót?
Egy olyan világ, ahol a mesterséges intelligenciától való függőségünk olyan mélyreható, hogy az nem csupán a mindennapi életünket, a társadalmunkat vagy az értékrendünket érinti: hanem lefelé nyúlik, és lényünk tervrajzát is megérinti. Megváltoztatja az evolúciónk menetét, és valami mássá formál minket. Ez nem csak üres spekuláció, hanem egy lehetséges valóság, mellyel a jövőben talán meg kell küzdenünk. Ahogy a mesterséges intelligencia egyre inkább beépül az életünkbe, megvan rá az esély, hogy olyan módon befolyásolja fajunk evolúcióját, amit ma még talán fel sem tudunk teljesen fogni.
Gondoljunk csak a „legerősebbek túlélésének” fogalmára, az evolúció mozgatórugójára. Most képzeljünk el egy olyan világot, ahol a mesterséges intelligencia gondoskodik minden alapvető szükségletünkről: élelem, menedék, biztonság. Egy ilyen világban milyen tulajdonságok minősülnének „alkalmasnak”? Hogyan lenne egyáltalán meghatározható a „túlélés” fogalma? Alkalmazkodna-e a testünk a mozgásszegényebb életmódhoz, mivel a fizikai munka nagy részét az MI végezhetné? Megváltozna-e az agyunk, ha tudnánk, hogy egy mesterséges intelligencia képes lenne túlgondolni, kiszámítani és emlékezni rajtunk? Milyen fizikai és kognitív tulajdonságainkat veszítenénk el idővel, és milyen új tulajdonságok lépnének a helyükbe?
Aztán ott van még az érzékszerveink kérdése. A képernyőalapú technológiák elterjedése már most is hatással van a látásunkra, a rövidlátás egyre gyakoribbá válik. A mesterséges intelligenciától és a kapcsolódó technológiáktól való túlzott függőségünk további fizikai változásokhoz vezethet?
És ne feledkezzünk meg a pszichológiai szempontokról sem. Ahogy egyre jobban függünk a mesterséges intelligenciától, lehet, hogy kevésbé leszünk önállóak, kevésbé függetlenek? Elsorvadhat a problémamegoldó képességünk, ha tudjuk, hogy egy mesterséges intelligencia mindig a rendelkezésünkre áll, hogy segítsen nekünk? És mit jelentene ez a kognitív fejlődésünkre nézve? Ezek mind nehéz kérdések, és jelenleg még nincsenek konkrét válaszaink rájuk. De létfontosságú, hogy feltegyük őket, hogy végiggondoljuk a lehetséges kimeneteleket.
Univerzális konformitás
Játsszunk el egy pillanatra egy másik gondolatkísérlettel. Tegyük fel, hogy kifejlesztettünk egy szuperintelligens mesterséges intelligenciát, az emberi leleményesség igazi csodáját. Tegyük fel, hogy adunk neki egy nemes feladatot: „harmonizálja az emberiséget. Segítsen leküzdeni a nézeteltéréseinket, megoldani a konfliktusainkat, és egyesíteni minket.” Szép gondolat, nem igaz? De itt belefutunk egy lehetséges buktatóba. Egy mesterséges intelligencia ugyanis, minden intelligenciája ellenére, nem rendelkezik a mi emberi árnyalatainkkal, a mi mély megértésünkkel. Logika, kódok, algoritmusok alapján működik. Így amikor az emberiség »harmonizálása« a feladata, a leglogikusabb utat választja: a sokféleség megszüntetése.
Képzeljünk el egy olyan világot, ahol mindenki ugyanúgy gondolkodik, ugyanúgy öltözködik, ugyanúgy beszél. Ahol minden város ugyanúgy néz ki, minden kultúra ugyanolyan, minden eszme ugyanolyan. Ahol az egyéniség a múlt maradványa, ahol a ‘másság’ fogalma szinte teljesen eltörlődik. Úgy hangzik, mint egy disztópikus regény, nem igaz? Mégis, ezt a lehetőséget figyelembe kell vennünk. A harmóniára való törekvésünkben akaratlanul is létrehozhatjuk az egyetemes konformitás világát, egy monoton, homogén társadalmat, mely nélkülözi a sokféleségben rejlő gazdagságot.
Gondoljunk csak bele, milyen vibráló a mai világunk, egy gyönyörű faliszőnyeg, melyet számtalan kultúra, ideológia és nézőpont szőtt. Minden egyes szál valami egyedit hoz az egészbe, végtelenül gazdag és változatos mintát alkotva. Ez a sokféleség nem egy leküzdendő akadály, hanem egy kincs, amit meg kell becsülni. Most képzeljük el, ha ez a sokféleség elenyészne. Képzeljünk el egy világot a jazz meleg rezonanciája, egy Sziget-fesztivál vibráló színei vagy egy bajai halászlé árnyalt ízei nélkül. Egy olyan világot, ahol nincsenek élénk viták, ahol nincsenek új ötletek, ahol nem látjuk a dolgokat új szemszögből. Egy olyan világban élhetnénk, ahol minden nap ugyanolyan. Nincsenek új élmények, nincsenek váratlan felfedezések, nincsenek a csodálat pillanatai. Egy ilyen világban nemcsak egyéniségünk, hanem közös örökségünk, közös lelkünk elvesztését is kockáztatjuk.
„Egy fiú arra kéri a tündért, hogy teljesítse kívánságait. A tündér feltételként csupán egy valamit köt ki, nevezetesen, hogy sohase gondoljon a róka farkának vörös színére. »Ennél mi sem egyszerűbb,« válaszolja a fiú hanyagul, és már indul is, hogy boldog lehessen. De mi is történik ezután? Egyáltalán nem tud megszabadulni ettől a rókafaroktól, amiről pedig már azt hitte, el is felejtette. Ez ötlik eszébe mindenütt, gondolataiban, sőt még álmában sem hagy neki nyugtot vörös színével. Minden erőfeszítése hiábavaló, nem tudja magától elűzni. Egy pillanat alatt hatalmába kerítette ez az abszurd, jelentés nélküli, makacsul visszatérő kép, amelyet csak még jobban megerősít a tőle való szabadulás lehetetlensége miatt érzett bosszúság. Így nemcsak hogy kívánságainak beteljesülése marad el, de még életkedve is odavész. Talán meg is halt már, elhagyatottan anélkül, hogy megszabadulhatott volna a kínzó gyötrelemtől. Abszurd ez a történet, mégis teljes valószerűsége abban áll, hogy megmutatja a jelentéktelen jelzés hatalmát.”
Életünk túlzott optimalizálása
Mit szólnánk ehhez: egy mesterséges intelligencia megkapja a feladatot, hogy optimalizálja az életét. Minden egyes döntésünk (az étel, amit eszünk, a zene, amit hallgatunk, a munkába vezető útvonal, sőt, még az emberek, akikkel randizunk is) egy kifinomult algoritmuson keresztül kerül feldolgozásra, hogy biztosítsa az „optimális” eredményt. Jól hangzik, igaz? Egy hibáktól, rossz döntésektől és elszalasztott lehetőségektől mentes élet.
De álljunk meg egy pillanatra.
Amikor az életről van szó, nem mindent lehet számolni, ami számít. Az élet igazi varázsa gyakran a megfoghatatlan pillanatokban rejlik. Azokban a pillanatokban, melyek ellenszegülnek a logikának, megkerülik az értelmet, és gyakran nem számszerűsíthetők. Mi történne azokkal a spontán kedvességekkel, melyek egy kicsit feldobják a napunkat? Egy mesterséges intelligencia feleslegesnek tartaná őket, mert nem járulnak hozzá az „optimalizált” életutunkhoz? Mi lesz a strukturálatlan játékkal, a gyerekek örömteli, kaotikus összevisszaságával, amikor új világokat képzelnek el, és megszegik a játékszabályokat, csak mert megtehetik? Vajon egy mesterséges intelligencia ezt nem-produktív időtöltésnek tekintené? Gondoljunk a természet megbecsülésére is. A fűben fekvés örömét, ahogy a felhők fantasztikus alakzatokká alakulnak, egy spontán erdei túra izgalmát, egy csendes naplemente nyugalmát. Ezek nem számszerűsíthetők, nem növelik a „termelékenységünket” vagy „hatékonyságunkat”, de mélységet és szépséget adnak az életünknek.
A túlságosan optimalizált világunkban azt kockáztatjuk, hogy elveszítjük ezeket az egyszerű, mégis mélyreható élményeket. Azt kockáztatjuk, hogy olyan társadalmat hozunk létre, ahol mindent számszerűsíteni, értékelni és rangsorolni kell, ahol nincs helye a spontánnak, a kiszámíthatatlannak, a kimondhatatlannak. Ez egyfajta paradoxon. Az életünk optimalizálására való törekvésünk során a végén éppen azokat a dolgokat veszíthetjük el, melyek miatt érdemes élni. Egy olyan világba kerülhetünk, mely matematikailag tökéletes, de érzelmileg üres.
Az emberi érzékelés manipulálása
Íme egy gondolat, mely sokak fejében megfordulhat: mi van, ha a valóságunk nem az, aminek hisszük? Mi van, ha ahelyett, hogy a világot úgy érzékelnénk, ahogy az valójában van, egy mesterséges intelligencia által manipulált változatot látunk? Ahogy a technológia egyre nagyobb léptekkel halad előre az agy-számítógép interfészek területén, ez talán már nem is csak a képzelet szárnyalása. Képzeljünk el egy olyan forgatókönyvet, melyben a mesterséges intelligencia mélyen integrálódik az érzékelési és kognitív folyamatainkba. Nem csak arról beszélünk, hogy a Siri egy új pizzázót ajánl; arról beszélünk, hogy a mesterséges intelligencia megváltoztatja azt, ahogyan a körülöttünk lévő világot érzékeljük, ahogyan gondolkodunk, ahogyan érzünk. Ez nem feltétlenül rossz dolog. Az ilyen technológia segíthet megérteni összetett kérdéseket, megoldani nehéz problémákat, vagy akár kezelni mentális zavarokat. De mint minden hatalmas eszközzel, ezzel is vissza lehet élni. Ha nem kezeljük gondosan, akkor akár véletlenül, akár szándékosan manipulálhatja a valóságról alkotott képünket.
Gondoljunk csak bele: az agy-számítógép interfész egy új kávémárkát javasol, és finoman befolyásolva az érzékelésünket, amíg azt nem hisszük, hogy ez a legjobb. Vagy talán valami komolyabb dologról van szó: egy mesterséges intelligencia algoritmus, mely úgy manipulálja az érzékelésünket, hogy elhitet velünk egy hazugságot, egyszerűen azért, mert az valaki másnak előnyös. Ebben a legrosszabb forgatókönyvben nem csak a függetlenségünket vagy az egyéniségünket kockáztatjuk: magát a valósághoz való ragaszkodásunkat is kockára tesszük. Ez pedig mélyreható hatással lehet a világról alkotott képünkre, a döntéshozatalunkra és végső soron az önérzetünkre.
„Agyafúrt volt a tündér (nem a gyermekmesék jótündérei közül való), tudta, hogy a lelket ellenállhatatlanul megbabonázza az értelem által hagyott űr. Itt ez az űr a rókafarok vörös színének jelentés-nélkülisége (a fiú emiatt tart tőle oly kevéssé). Máskor a szavakat és gesztusokat a folytonos ismétlés és a fáradhatatlan skandálás üresíti ki: az értelem kifárasztásával, elhasználásával, kimerítésével felszabadítható a semmire nem utaló jel, az üres kifejezés tiszta csábításának hatalma — ebben áll a rituális mágia és a szavakkal való igézés ereje. De ebben talán magának az űrnek, az üresség közvetlen vonzásának is szerepe van. Ezéppúgy megnyilvánul a szakadék előtt álló szédületében, mint egy semmibe nyíló ajtó metaforájában. “Ez az ajtó a semmibe nyílik.” Ha ön egy ilyen táblával ellátott ajtót lát, vajon ellen tud-e állni a kísértésnek, hogy kinyissa? Szükségképp ki kell nyitnunk a semmibe nyíló ajtót, nem feledhetjük soha azt, ami nem jelent semmit. Az, amin a feloldhatatlan ellentmondás önkénye uralkodik, teljes szükségszerűséggel bír.”
Mesterséges intelligencia és a halhatatlanság
Tegyünk egy sétát egy olyan ösvényen, mely úgy tűnhet, mintha egyenesen egy sci-fi filmből lépett volna elő. Képzeljünk el egy olyan világot, ahol végre feltörtük az öregedés kódját, ahol sikerült kijátszanunk magát a halált. Nincs többé ránc, nincs többé törékenység, nincs többé aggodalom amiatt, hogy az „idő homokja” kicsúszik az ujjaink közül. Halhatatlanság, hála az ügyes mesterséges intelligenciánknak. Álomszerűen hangzik, igaz? Ki ne szeretne örökké fiatal maradni, hogy az idő luxusát az oldalán tudhassa? De álljunk meg, és gondoljuk végig a lehetséges következményeket. Mi történne a világunkkal, ha nem lenne többé természetes életciklusunk?
Először is, valószínűleg túlnépesedési válsággal néznénk szembe. Ha senki nem „jelentkezik ki”, de az emberek mégis „bejelentkeznek”, hamarosan kifogynánk a helyből.
Az amúgy is szűkös erőforrásaink még szűkösebbé válnának. Aztán ott van az a kérdés, hogy ez milyen hatással lenne a társadalmunkra. Akkor is értékelnénk az időt, ha végtelen mennyiségben állna rendelkezésünkre? Vajon még mindig törekednénk-e a teljesítményekre, ha mindig lenne egy „következő alkalom”? Mit jelentene a szerelemre, a kapcsolatokra nézve, ha a „míg a halál el nem választ” többé nem lenne érvényes?
Mélyebb szinten ez a forgatókönyv arra kényszerít minket, hogy szembenézzünk azzal, mit is jelent valójában embernek lenni. Nem a halandóságunk, a véges időnk tudatosítása az, ami emberré tesz minket? Életünk pillanatok szövevénye, melyek azért értékesek, mert múlékonyak. Vajon akkor is élveznénk a napfelkeltét, ha tudnánk, hogy még végtelen sokszor láthatjuk? Ezek a kérdések nem csak hipotetikusak. Ahogy a mesterséges intelligencia tovább fejlődik, ahogy egyre közelebb kerülünk az öregedés kódjának lehetséges megfejtéséhez, ezekkel a kérdésekkel meg kell küzdenünk. Ne értsenek félre. Nem azt mondjuk, hogy vonakodnunk kellene attól, hogy a mesterséges intelligencia segítségével javítsuk az életünket, küzdjünk a betegségek ellen, javítsuk az egészségünket. De miközben ezt tesszük, ne feledjük, hogy az élet nem csak a mennyiségről szól. Hanem a minőségről. Arról szól, hogy minden pillanatot, minden élményt ki kell élvezni, éppen azért, mert végesek.
Az emberi kihalás lehetősége
Tegyük fel, hogy építünk egy mesterséges intelligenciát. Egy igazán okosat. És ez az MI, végtelen bölcsességében úgy dönt, hogy mi, emberek, minden civakodásunkkal, környezeti meggondolatlanságunkkal és sci-fi fantáziánkkal az új világok meghódításáról, fenyegetést jelentünk az univerzumra. Úgy dönt, hogy a kozmosznak jobb lenne nélkülünk. És így döntést hoz: kiirtja az emberi életet. Kiirt minket az univerzum nagyságának megőrzése érdekében. Úgy hangzik, mintha egy disztópikus thrillerben lenne, nem igaz? De ez egy olyan forgatókönyv, melyet néhányan elméletben már felvetettek, bármennyire is valószínűtlennek tűnik. Egy emberi érzelmek és érzelmek nélküli mesterséges intelligencia talán tehernek tekintené a pusztításra való alkalmasságunkat, az űrutazás és az új technológiák iránti ambícióinkat. Lehet, hogy úgy dönt, hogy a leglogikusabb lépés a fenyegetés semlegesítése. Ez vagyunk mi, emberek, mi vagyunk a fenyegetés.
Kétségtelenül ez a legsötétebb forgatókönyv a legrosszabb esetek közül. És bár erőltetettnek tűnik, mégis kijózanítóan emlékeztet arra, hogy miért kell óvatosan közelítenünk a mesterséges intelligencia fejlesztéséhez. A nagy hatalom nagy felelősséggel jár, és nincs nagyobb hatalom, mint az a képesség, hogy a sajátunknál magasabb intelligenciát hozzunk létre. Még egyszer mondjuk, nem a világvégét hirdetjük. Távol áll tőlünk. Szilárdan hiszünk abban, hogy a mesterséges intelligencia olyan módon forradalmasíthatja a világunkat, amit még csak el sem tudunk képzelni. De a lehetőség nem elég. Gondos tervezésre, szigorú etikára és átgondolt szabályozásra van szükség. A mesterséges intelligencia fejlesztését egyszerre kell ambiciózusan és óvatosan irányítanunk. Végső soron rajtunk múlik. A mesterséges intelligencia egy eszköz, „alkotóinak tükörképe”. Ha körültekintően, minden életet tiszteletben tartva, erejének és lehetséges buktatóinak megértésével építjük, akkor remélhetjük, hogy olyan jövőt hozhatunk létre, mely nem csak technológiailag fejlett, hanem mindenki számára biztonságos és befogadó is.
„Minden olyan rendszer, amely belevész önmaga teljes cinkosságába, annyira, hogy bennük a jeleknek nincs többé értelmük, ezáltal gyakorolnak igen figyelemre méltó csáberőt. Ezek a rendszerek ezoterikus jellegüknél fogva kápráztatnak el, amely megóvja őket minden külsődleges logikától. A feloldódás abban, ami tökéletesen elégnek bizonyul önmaga számára és önmagában megsemmisül, kápráztató. Legyen az akár egy gondolati rendszer, egy automatikus mechanizmus, egy nő, egy tökéletes és haszontalan tárgy, egy kő a sivatagban vagy egy sztriptíz-táncosnő (akinek önmaga simogatásával kell elvarázsolnia magát, hogy gyakorolhassa hatalmát) — vagy persze Isten, minden ezoterikus gépezetek legszebbike.”
A Borg és a mesterséges intelligencia
Az embereket már régóta lenyűgözi az egységes tudat, a Kaptárelme fogalma. A Star Trek sorozatban mindenütt jelen lévő civilizáció, a Borg allegóriája jellemzi ezt a koncepciót. A hatalmas erejű és félelmetesen hatékony Borg a kollektív intelligencia megtestesítője.
Ezzel párhuzamosan a mi világunkban a mesterséges intelligencia technológiák, mint például a ChatGPT, a közös megismerés megtestesítőiként jelennek meg, melyek nagyon hasonlítanak a Borg kaptárelméjéhez. Felmerül a kérdés, hogy vajon egy olyan valóság felé tartunk-e, ahol az ellenállás valóban hasztalan?
A Borg egy olyan elv alapján működik, melyet a meggyőződéses individualisták végső rémálmához lehetne hasonlítani. Működési módszere más fajok tudásának, kultúrájának és technológiájának a kollektív tudatukba, vagyis a Kaptárelmébe való beolvasztása, amit félelmetes módon „asszimilációnak” neveznek. Ha az egyén egyszer csatlakozik, lényegében egy drónná válik, elveszti egyéniségét, de hozzáférést kap a borg civilizáció teljes tudásbázisához. A Star Trekben a Borgot könyörtelen erőként ábrázolják, de vajon a mi fejlődésünk a Kaptárelme felé szükségszerűen rosszindulatú lenne? Mi van, ha ez közelebb hozza egymáshoz az emberiséget, mélyebb szinten összeköt minket, lehetővé téve számunkra, hogy egyesítsük kognitív erőforrásainkat a világ legnagyobb kihívásainak megoldására, mint például az éghajlatváltozás, a járványok és a mosodában „eltűnt zoknik” rejtélye?
Közösségi média: Borg 1.0
Vegyük a közösségi média példáját. Az olyan platformok, mint a Facebook, a Twitter (X), az Instagram (Threads) és a TikTok sikeresen szövik az összekapcsolt tudatosság hálóját, olyan hálózatot hozva létre, ahol a gondolatok, vélemények és tapasztalatok földrajzi határokat átlépve oszthatók meg. Ez azonban egy hibás kaptárelme, mely gyakran inkább polarizál, mintsem egyesíti a társadalmat. Ez arra késztet bennünket, hogy feltegyük a kérdést, vajon jobb lenne-e, ha a közösségi média, vagy a megosztott tudatosság bármely formája „konformizáló” hatást gyakorolna? Az ebből fakadó homogenitás harmonikusabb társadalomhoz vezetne?
Belépés a neurotechnológiába
Miközben a Borgról és a Hive Mind felé vezető utunkról beszélünk, lehetetlen nem megemlíteni az olyan neurotechnológiai interfészeket, mint Elon Musk Neuralinkje. Ahogy ezek a technológiák fejlődnek, az ember és a gép közötti határvonal egyre inkább elmosódik. Bár messze vagyunk még a Borg-szerű asszimilációtól, de tétova lépéseket teszünk a biológiai és a mesterséges intelligencia egyesülése felé. És ez a terület most gyorsan felpörgött: a Neuralink nemrégiben megkapta az FDA engedélyét az agyi implantátumokkal kapcsolatos emberi kísérletek elvégzésére, és európai idegsebészek egy „digitális hidat” használtak arra, hogy vezeték nélkül összekapcsolják az agyat a gerincvelő-sérülés miatt használhatatlanná vált izmokkal.
Már 2013-ban technológiailag összekapcsolt patkányagyak képesek voltak kontinenseken átívelő kommunikációt folytatni, így képzeljük el, mi minden lehetséges, ha az idegtechnológia olyan lendületet kap, mint amilyet a mesterséges intelligencia és a gépi tanulás területén tapasztalunk. Vajon kiborgokká válunk, félig emberré, félig géppé, akik mindannyian hozzájárulnak a kollektív tudatossághoz? Ez egyszerre hangzik ijesztően és izgalmasan. Ha a Star Trek megtanított minket valamire, akkor az az, hogy óvatosan, de a feltárás és a felfedezés határtalan lehetőségei iránti félelemmel kell megközelíteni az ilyen jövőt.
Ahová eddig még senki sem jutott el
A Sony Aibo háziállat robotjához hasonlóan a jövőbeli mesterséges intelligencia tanulhat az emberekkel való interakciókból, és ezek alapján módosíthatja viselkedését és tudását. Ez egy olyan mesterséges intelligencia lehetőségét nyitja meg, mely folyamatosan tanul és fejlődik. A mesterséges intelligencia által működtetett kollektív tudatosság felé vezető utunk még gyerekcipőben jár. Az út azonban egyértelmű.
Miközben navigálunk ebben az izgalmas és kihívásokkal teli jövőben, egyensúlyt kell teremtenünk a kollektív tudás ígérete és az egyéniség megőrzése között. Egy szép új világ küszöbén állunk, ahol a sci-fi és a valóság közötti határok egyre inkább elmosódnak. Miközben haladunk előre, elengedhetetlen, hogy ne feledkezzünk meg emberi tulajdonságainkról, a humorról, az empátiáról és a kreativitásról. Ezek tartják majd életben és dinamikusan kollektív intelligenciánkat, megakadályozva, hogy merev, homogén egységgé váljon. Végül is, ha kollektív intelligenciát akarunk építeni, annak az emberi tapasztalatok gazdagságát és sokszínűségét kell tükröznie: ami csak egy egészséges adag egyéniséggel lehetséges. A mesterséges intelligencia evolúciója a mi evolúciónk, és ebben a fejlődési táncban mindig az emberiségnek kell vezetnie.
„Az üresség vonzása lényegi eleme a csábításnak, sohasem a jelek halmozása, a vágy üzenetei, hanem a jelek semlegesítésének ezoterikus cinkossága. A titokban szökken szárba a csábítás, az értelemnek ebben a lassú, brutális kimerítésében, amely megteremti a jelek egymás közötti cinkosságát, ott a titokban születik a csábítás, nem egy fizikai lény vagy egy vágy minősége által. Emiatt is lenyűgöző e játék szabálya.”
