Az elmúlt évtizedekben a szélesebb nyilvánosság főként a scifi-filmekben látottak alapján foglalkozott azzal, hogy a “robotok” képesek-e valódi érzésekre. Azzal azonban, hogy az MI visszavonhatatlanul jelen van az életünkben, és egyre komolyabb helyet is követel benne, egyre fontosabb lesz ez a kérdés.
Új szubkultúrák jönnek létre az MI miatt
Múlt héten akadémikusok egy nemzetközi csoportja azt jósolta, hogy 2035-re várhatóan a tudatosság is megjelenik az MI-rendszerekben. A tudósok szerint ez bizonyos szubkultúrákat hívhat életre, amelyek pedig úgy tekintenek egymásra, hogy mint akik tévedésben élnek az MI megítélését illetően. A vita konkrétan arról folyik majd ugyanis, hogy a számítógépes programokat hasonló jóléti jogok illetik-e meg, mint az embereket vagy az állatokat – olvasható a The Guardian beszámolójában.
Jonathan Birch professzor komoly társadalmi szakadásoktól és feszültségektől tart. Az emberek ugyanis nem fognak egyetérteni abban, hogy az MI-rendszerek valóban képesek-e olyan érzésekre, mint a fájdalom és az öröm.
A London School of Economics filozófia-professzora annak kapcsán beszélt az MI várható társadalmi hatásairól, hogy a héten San Franciscóban szabályozói ülést tartanak.
Az Egyesült Államok, az Egyesült Királyság és más nemzetek MI-vel foglalkozó biztonsági testületei tartanak egyeztetéseket a tech-cégek képviselőivel. A találkozó célja, hogy felgyorsítsák az MI kockázatait kezelő védelmi mechanizmusok létrehozását.
Képes lesz-e érezni a gép?
Hogy jobban megértsük azt a szociálpszichológiai hátteret, ami az emberek MI-hez való viszonyulását meghatározza, érdemes arra gondolni, milyen jelentős különbségek vannak egyes országok és vallások állati érzéssel kapcsolatos nézetei között. Ilyen példa lehet India, ahol több százmillió vegetáriánus él, és az Egyesült Államok, amely pedig a világ egyik legnagyobb húsfogyasztója.
Az MI érzelmi képességeiről alkotott nézetek is hasonlóan alakulhatnak. Jelentős véleménykülönbség alakulhat ki például az olyan teokráciák, mint Szaúd-Arábia, amely az MI központjaként pozícionálja magát, valamint a világi államok között.
A filozófia-professzor szerint a kérdés a családokon belül is feszültségeket okozhat. Azok ugyanis, akik szoros kapcsolatot alakítanak ki chatbotokkal vagy akár elhunyt szeretteik MI avatárjaival, összeütközésbe kerülhetnek azokkal a rokonokkal, akik szerint csak a hús-vér lényeknek lehet tudata.
Birch professzor az állati érzőképesség szakértője, aki például a poliptenyésztés egyre elterjedtebb tilalmában is úttörő szerepet vállalt. A filozófus társszerzője volt a New York-i Egyetem, az Oxfordi Egyetem, a Stanford Egyetem, valamint az Eleos és az Anthropic MI-fejlesztő cégek részvételével készült tanulmánynak.
A tudósok szerint a saját érdekekkel és morális értékrenddel bíró MI-rendszerek már nem csupán a sci-fi irodalom vagy a távoli jövő lehetősége.
Az akadémikusok éppen ezért azt szeretnék, ha az MI-fejlesztők is elkezdenék komolyan venni a kérdést, és meghatároznák a rendszereik érzékenységét. Emellett fel kellene mérniük azt is, hogy modelljeik képesek-e boldogságra és szenvedésre, illetve arra, hogy hasznot vagy kárt okozhatnak-e nekik.
Birch komolyan aggódik, hogy emiatt komoly társadalmi megosztottság alakulhat ki. A professzor szerint hatalmas társadalmi megosztottság alakulhat ki. Az egyik oldal úgy látja majd, hogy a másik nagyon kegyetlenül kihasználja az MI-t. Eközben a másik oldal úgy láthatja, hogy az ellenkező oldal tévedésben él az MI-rendszerek érzelmi képességeit illetően.
Termék vagy egy új, tudatos lény?
Mindeközben az MI-vel foglalkozó cégek a megbízhatóságra és a nyereségességre koncentrálnak. Azt pedig nem akarják, hogy ez a vita elterelje a figyelmüket: nem csupán egy terméket, hanem valójában egy újfajta tudatos lényt hoznak-e létre.
Ez a kérdés komolyan foglalkoztatja a filozófusokat. Az egyik módszer egy MI-rendszer tudatossági szintjének meghatározására az lehet, hogy az állatokkal kapcsolatos politika irányítására használt jelölések rendszerét követjük. (Például egy polipot nagyobb érzékenységűnek tartanak, mint egy csigát vagy egy osztrigát.)
Bármilyen értékelés gyakorlatilag azt a kérdést veti fel, hogy a telefonunkon lévő chatbot valóban boldog vagy szomorú lehet-e. Vagy hogy a házimunkára programozott robotok szenvednek-e, ha nem bánunk velük jól. Még azt is meg kellene vizsgálni, hogy egy automatizált raktárrendszer képes-e arra, hogy meghiúsulást “érezzen”.
Patrick Butlin, az Oxfordi Egyetem kutatója szerint azonosítani kell annak a kockázatát, hogy egy MI-rendszer megpróbálna oly módon ellenállni nekünk, ami veszélyes lenne az emberekre nézve. Ennek egyik következménye lehet, hogy le kellene lassítani az MI-fejlesztéseket, amíg a tudatossággal kapcsolatban nem végeznek több munkát.
„Jelenleg nincsenek ilyen felmérések a potenciális tudatosságról” – jelentette ki a kutató, aki az említett tanulmány egyik társszerzője volt.
A Guardian megkeresésére az MI-fejlesztő cégek – a Microsoft, a Perplexity, a Meta, az Open AI és a Google – nem kommentálták a tanulmány megállapításait.
Persze az MI kockázatait illetően nem ért egyet minden kutató és akadémikus. A neves idegtudós és tudatosságkutató Anil Seth szerint ez még messze van, és lehet, egyáltalán be sem következik. Persze, még ha valószínűtlen is, nem bölcs dolog teljesen elvetni a lehetőséget.
Seth különbséget tesz intelligencia és tudatosság között. Az előbbi az a képesség, hogy a megfelelő dolgot a megfelelő időben tesszük. Az utóbbi pedig egy olyan állapot, amelyben nem csak információkat dolgozunk fel. Az elménk tele van fénnyel, színekkel, árnyalatokkal és formákkal. Érzelmek, gondolatok, meggyőződések, szándékok – ezektől mindannyian sajátos módon érezzük magunkat.
De az MI nagy nyelvi modelljei, amelyeket emberi írások több milliárd szaván képeztek ki, már elkezdték megmutatni, hogy legalább az öröm és a fájdalom fogalmaival motiválhatók.
(Kép: Dall-e)
