(Kiemelt kép: Unsplash+)
Képzeljünk el egy kalapács nélküli világot. Puszta kézzel szögeket verünk a falba, hogy felakasszuk a festményeinket. Lábbal rúgjuk át a gipszkartont, hogy lebontsunk egy falat. A sátrunkat egy sziklához kötözzük, hogy ne repüljön el a szélben. Most képzeljük el, hogy ez a világ hosszú tudományos kutatási múltra tekint vissza (melynek nagy része igen ígéretes volt, sőt forradalmi), valamint a spekulatív sci-fi és a futurizmus hagyománya, melynek középpontjában a mesterséges munka (AL) koncepciója áll. Egy napon a talán nem is olyan távoli jövőben az AL várhatóan beveri a szögeket, lebontja a falakat és felállítja a sátrakat. De az AL nem csak ezt fogja tenni.
A jövőben az úgynevezett Mesterséges Általános Munkaerő (AGL) elmosogat, kimossa a szennyest, megsétáltatja a kutyát, megeteti a macskát és elhozza a gyerekeket az iskolából, és lényegében minden olyan bosszantó, fáradságos feladatot elvégez, amit csak el tudunk képzelni. Az AGL megszabadít a fáradságos életedtől, felszabadítva téged és az emberiség többi tagját, hogy egy poszt-munkás utópiában élhessetek.
Aztán egy OpenAL nevű cég, melynek deklarált küldetése eme boldog forgatókönyv megvalósítása, feltalálja a kalapácsot. (igazából egy versenytárs találja fel a kalapácsot, de az OpenAL egy igazán jót épít, és piacra dobja.) Hirtelen sokkal gyorsabban és hatékonyabban lehet szögeket verni, mint valaha. Tudományosnak tűnő publikációk tömkelege mutatja be, hogy egy elég nagy kalapáccsal gyorsabban le lehet bontani egy falat, mint a leggyorsabb építőmunkás. A semmiből AL-első technológiai cégek ezrei jelennek meg, hogy az OpenAL-tól licencelt legújabb AL-eszközökkel olyan dolgokat csináljanak, mint például a sátrak felverése. Független informatikai szakértők kitalálják, hogyan építhetik meg saját kalapácsaikat a ház körül heverő anyagokból, és ingyenesen közzéteszik a használati utasításokat az interneten, megnyitva ezzel a nyílt forráskódú AL aranykorát.
Az OpenAL honlapja szerint az egész céljuk az AGL megvalósítása. Bevezették ezt a forradalmian új AL-technológiát, mely gyorsan és mindenhol alkalmazásra talál, és valóban megváltoztatta a munka számos formáját. Azok az internetes szakmai influenszerek, akik már régóta spekulálnak a mesterséges munka veszélyeiről, kezdenek rendkívül igazoltnak tűnni, és a hírekben követelik az AL további fejlesztésének azonnali leállítását, mielőtt túl késő lenne.
A forgatókönyvben az AL mosogat. Egy kalapács el tud mosogatni? Ez első látásra valószínűtlennek tűnik, de a technológiai változások üteme itt hihetetlenül gyorsnak tűnik, és nem akarsz idiótának tűnni. Alig néhány hónap múlva az OpenAL kiadja a Hammer4-et, és megtudod, hogy a régészek már az új AL-kalapácsokat használják fosszíliák feltárására: ki gondolta volna ezt valaha is? A nagyon okos szakértők rendszeresen ígérgetik, hogy ha a Hammer4 ma még nem is tud mosogatni, csak idő kérdése, hogy mikor jön ki a Hammer5, ami biztosan még több képességgel fog rendelkezni. A Hammer5 megépítése egyébként nagyjából 7 billió dollárba fog kerülni, de ha ez meghozza a Boldog Utópiás forgatókönyvet, akkor (sokak szerint) jól elköltött 7 billió dollár lesz.
A ChatGPT megjelenése kicsit olyan volt, mint a kalapács allegorikus megjelenése. Az olyan hatalmas generatív AI modellek, mint a ChatGPT, a Stable Diffusion, a Sora és így tovább, az MI-technológia új és meglepő alkategóriáját jelentik, széles és gyorsan bővülő felhasználási lehetőségekkel.
A ChatGPT nagyszerű olyan dolgokban, amikre soha nem gondoltunk volna, hogy egy LLM-alapú program jó lesz, például bizonyos típusú számítógépes programok írásában, szövegek összegzésében és szerkesztésében, és még egy csomó más dologban. De van néhány dolog, amiben a ChatGPT elég rossznak tűnik.
Például nem jó még a nagyon egyszerű stratégiai játékok lejátszásában sem. Számunkra ennek a technológiának az alapvető rejtélye a következő: miért rossz a ChatGPT Kockapóker játékban? Talán azért, mert a ChatGPT még mindig egy születőben lévő technológia, mely még nem áll teljesen készen? Talán csak nem megfelelően kérdezünk, vagy a GPT-4-nek egyszerűen nincs elég paramétere, vagy nem látott elég gyakorló adatot. Vagy azért, mert a Kockapóker egyszerűen nem az a fajta dolog, amiben az LLM-alapú csevegőrobotok jók?
Ha a ChatGPT a kalapács, akkor a Kockapóker olyan, mint a beton feltörése, ahol csak egy nagyobb kalapács kifejlesztésére van szükség? Vagy olyan, mint a mosogatás, ahol a kalapács alapvetően rossz eszköz a munkához? Hogy nagyon világosak legyünk, nem arról van szó, hogy egy számítógépes program ne tudná optimálisan játszani ezt a játékot. Lehet írni egy egyszerű Python program, mely akár 100%-ban megnyeri ezt a játékot, ha az ellenfél nem játszik tökéletesen.
Tehát nem arról van szó, hogy a számítógépek számára elérhetetlen lenne ebben a játékban nyerni; sőt, az ilyen típusú játék hagyományosan pontosan az a fajta, amiben a számítógépek jók. Csak úgy tűnik, hogy a ChatGPT nem az a fajta dolog, amiben jó, és a kérdés az, hogy végül képes lesz-e további finomításokkal megoldani ezt a problémát, vagy csak nem egy szöget ütött a ChatGPT „kalapácsába”.
Egyébként nem azért ragaszkodunk a Kockapóker játékhoz, mert különösebben jelentős. Ha a ChatGPT a világon mindenre képes lenne, kivéve a Kockapóker játékot, az már nagyon jó lenne. De ez nem tűnik valószínűnek. Inkább úgy tűnik, hogy
a Kockapóker a problémák egy olyan osztályát képviseli, melyben a ChatGPT rosszul teljesít. Annak kitalálása, hogy pontosan mi tartozik és mi nem tartozik ebbe az osztályba, jelenleg a milliárd dolláros kérdés.
Az ilyen témákról sokat beszélő emberek legáltalánosabb nézete a mesterséges intelligencia fejlődésével kapcsolatban az, hogy ha van valami, például a Kockapóker játék, amiben ma még nem jó, akkor hamarosan biztosan képes lesz majd erre a dologra is. Csak idő kérdése, hogy a mesterséges intelligencia képes lesz megoldani ezt és minden más problémát; az OpenAI-hoz hasonló cégeknek csak egy kicsit több időre és pénzre van szükségük ahhoz, hogy egyre okosabb és még kifinomultabb mesterséges intelligenciákat képezzenek ki. Szerintünk ez valószínűleg nem a legpontosabb kép a dolgok jelenlegi állásáról, és van néhány okunk, amiért ezt gondoljuk.
Nincs csak egy létező mesterséges intelligencia
A kérdést, hogy mit tud és mit nem tud a mesterséges intelligencia, nagy kihívást jelent az a frusztráló tendencia, melyet sok kommentátornál megfigyelhetünk, hogy elmosódnak a határok az MI technológiájának hierarchikus szintjei között. A mesterséges intelligencia, akárcsak az allegorikus Mesterséges Munka, egy hatalmas és homályos technológiai kategória, melybe a sakkmotoroktól kezdve a keresőmotorokon át az arcfelismerő szoftvereken és a Boston Dynamics robotkutyákon át a XY operációs rendszeréig minden beletartozik. Az intelligenciát igénylő feladatok halmaza, akárcsak a munkát igénylő feladatok halmaza, nagy és sokrétű. Az AL-hez hasonlóan az MI kategóriába tartozó technológiáknak is mind különböző dolgokat tudnak és nem tudnak.
Nem mosogathatunk el egy fúróval, és nem vezethetünk autót egy sakkmotorral. A mesterséges intelligencia túl széles és homályos ahhoz, hogy tisztán fel lehessen bontani egy megfelelő hierarchiába, de van néhány módja annak, hogy rendet tegyünk benne.
A legszélesebb szinten talán a szimbolikus mesterséges intelligencia és a gépi tanulás között lehet különbséget tenni (bár vannak olyan dolgok, melyeket „mesterséges intelligenciának” nevezhetünk, de valójában egyik kategóriába sem illenek bele, mint például a Google PageRank algoritmusa vagy a GPS által a pontról pontra történő iránymeghatározáshoz használt algoritmus).
Az ML alatt lehetnek olyan alkategóriák, mint a klasszifikátorok vagy az ajánlók, és az egyik ilyen alkategória lehet a generatív mesterséges intelligencia. Az alatta lévő kategóriák egyike lehet az LLM-alapú generáló rendszerek, melyre a ChatGPT az egyik példa. Nem ez az egyetlen módja mindezek rendszerezésének, és nem is feltétlenül ez a legjobb módja, de a lényeg, amire próbálunk rávilágítani, hogy a ChatGPT csak egy kis pont a technológiák hatalmas univerzumában, némileg analóg módon ahhoz, ahogyan a kalapács egy példa a szerszámok általános osztályából, a csavarhúzók, mosogatógépek, autók, teleszkópok és anyagreplikátorok mellett.
Az új technológiákról szóló tudósítások gyakran egyetlen amorf egységgé zsugorítják ezt a hatalmas kategóriát, és az egyes elemek tulajdonságait az egész mesterséges intelligenciának tulajdonítják. Vegyük például a DeepMind nemrégiben megjelent, a geometriai problémák megoldására szolgáló AlphaGeometry nevű rendszerükről szóló tanulmányt kísérő tudósítások egy részét:
- New York Times: Az MI legújabb kihívása: a matematikai olimpia.
- TechCrunch: DeepMind legújabb mesterséges intelligenciája geometriai problémákat old meg.
- Nature: Ez az MI most jött rá a geometriára: ez egy lépés a mesterséges gondolkodás felé?
- Scientific American: A mesterséges intelligencia a legjobb matekolimpikonok képességeivel vetekszik
A felületes megfigyelő ezekből a szalagcímekből joggal feltételezheti, hogy a DeepMind tudósai birtokában vannak egy „mesterséges intelligenciának” nevezett valaminek, ami mindezeket a dolgokat végzi. És talán ez a DeepMind MI alapvetően ugyanolyan entitás, mint a ChatGPT, amely szintén „MI”-ként mutatkozik be.
Mindezek alapján tényleg úgy tűnik, hogy az „MI” egy diszkrét dolog, mely chatbotokat irányít, megoldatlan matematikai problémákat old meg, és középiskolásokat győz le a geometriaolimpián. De ez távolról sem így van.
A FunSearch, az AlphaGeometry és a ChatGPT három teljesen különböző típusú technológia, melyek három teljesen különböző típusú dolgot csinálnak, és egyáltalán nem felcserélhetők vagy akár átjárhatók. Az AlphaGeometryvel nem lehet beszélgetni, a ChatGPT pedig nem képes megoldani a geometriában olimpiai feladatokat. A nagy nyelvi modellek figyelemre méltó érvelési képességet mutattak különböző érvelési feladatokban. Amikor azonban ezekre a geometriai problémákra teljes természetes nyelvű bizonyításokat állít elő, a GPT-4 sikerességi aránya 0%, gyakran elkövet szintaktikai és szemantikai hibákat a kimeneteiben, és kevés megértést mutat a geometriai ismeretek és magának a problémaállításnak a megértéséhez.
Mindhárom technológiában közös, hogy LLM-ek segítségével készültek, és általánosabban, hogy a generatív mesterséges intelligenciának nevezett robbanásszerű új paradigma alkalmazásai. Emiatt úgy tűnhet, hogy szorosabban kapcsolódnak egymáshoz, mint amennyire valójában kapcsolódnak. De ezek az LLM-ek rendkívül különböző alkalmazásai. A nyitó allegória világában ez olyan, mintha a kutatók előálltak volna a kalapáccsal és a reflexkalapáccsal, és a hírek arról számolnának be, hogy a Mesterséges Munka most már képes a gipszkarton falát ledönteni és a patellareflexét tesztelni.
Ez nem lenne szigorúan helytelen, de félrevezető módon nagyon különböző dolgokat egy fogalomba sűrítenénk. Igen, mind a reflexkalapács, mind a szánkókalapács kalapács-alapú mesterséges munkaügyi technológiák, de elég fontos különbség van köztük ahhoz, hogy számíthassanak. Fontos, hogy a szánkókalapács további fejlesztése nem jelent semmit a reflexkalapácsok hatékonyságáról, és fordítva. És egyikük fejlődése sem jelent semmit a kalapácsalapú technológiák mosogatásra való alkalmasságáról. Az AlphaGeometry feltalálása hasonlóképpen semmit sem jelent arról, hogy a ChatGPT valaha is képes lesz-e legyőzni minket a Kockapókerben.
Mindkettő LLM-alapú technológia, de a különbségek elég nagyok ahhoz, hogy egyik sem jelent semmit a másik képességeiről.
Fontos, hogy itt pontosak legyünk, mert nagyon sok különböző dolog számít „mesterséges intelligenciának”, és mindegyiknek nagyon különböző tulajdonságai vannak. Ha hanyagul összekeverjük őket, olyan képet festünk egy olyan rendszerről, mely valójában nem is létezik, és olyan képességekkel rendelkezik, melyekkel egyetlen dolog sem rendelkezik.
Egyenesen igaz, hogy „egy MI” nyerhet a Kockapóker játékban. A fontos kérdés az, hogy ez a bizonyos fajta MI-rendszer képes-e erre, sőt, hogy pontosan mik azok a dolgok, amiket ez az MI-rendszer tud és mik azok, amiket nem. Az egyértelmű, hogy a mesterséges munkaerő képes mosogatni (például egy mosogatógéppel); a lényeges kérdés az, hogy egy kalapács képes-e rá.
Hogyan veszélyezteti jövőnket az MI sötét oldala?
Kétségtelen, hogy a mesterséges intelligencia számos előnnyel jár, de van egy sötét oldala is. Ahogy a mesterséges intelligencia egyre jobban fejlődik, úgy nőnek az aggodalmak az általa jelentett potenciális veszélyekkel kapcsolatban. Az alábbiakban néhány olyan kockázatot mutatunk be, amelyekkel valószínűleg szembesülni fogunk.
Adatvédelem és biztonság
A mesterséges intelligenciával kapcsolatos egyik fő kockázat az adatvédelem és a biztonság megsértésének lehetősége. Az MI gyakran nagy mennyiségű személyes adatra támaszkodik. Ezek közé tartoznak az orvosi feljegyzések, a személyes preferenciák és más személyes adatok, melyeket döntések meghozatalához és ajánlások megfogalmazásához használ. Ha ezek az adatok rossz kezekbe kerülnek, rosszindulatú célokra használhatók fel. Maguk a mesterséges intelligencia rendszerek is sebezhetőek lehetnek a támadásokkal szemben, például hackerrel vagy manipulációval szemben, ami alááshatja megbízhatóságukat és pontosságukat. Ezek a technológiák gyakran nagy mennyiségű személyes adatot gyűjtenek és tárolnak, melyet hackerek kihasználhatnak, vagy etikátlan célokra használhatnak fel az adatokat gyűjtő vállalatok.
A megkülönböztetés fegyvere
A mesterséges intelligenciával kapcsolatos egyik legégetőbb kérdés az elfogultság és a diszkrimináció lehetősége. A mesterséges intelligencia hatékonysága a betanításukhoz használt adatok minőségétől függ. Ha az adatok diszkriminatívak, akkor az eredmények is diszkriminatívak lesznek. Ez olyan elfogultságot eredményezhet, mely megerősíti a meglévő társadalmi és gazdasági egyenlőtlenségeket. Például egy mesterséges intelligencia algoritmus, melyet arra használnak, hogy megjósolja, mely álláspályázók lesznek a legesélyesebbek, akaratlanul is diszkriminálhat bizonyos csoportokat, például a nőket, ha az algoritmus képzéséhez használt adatok elfogultak ezekkel a csoportokkal szemben.
Az elszámoltathatóság és átláthatóság hiánya
Ahogy az MI egyre bonyolultabbá és autonómabbá válik, kihívást jelenthet annak meghatározása, hogy ki felelős a tetteiért és döntéseiért. Ez felveti az elszámoltathatóság és az átláthatóság kérdését, különösen azokban az esetekben, amikor az MI kárt okoz vagy hibázik. Lényegében számos jogi és etikai kérdést vetnek fel, például az MI által okozott károkért való felelősséget és az MI döntéshozatalban való felhasználását.
Tegyük fel, hogy egy mesterséges intelligenciát alkalmazó automata jármű balesetet okoz, ki a felelős a kárért? Hasonlóképpen, ha egy mesterséges intelligenciát alkalmazó rendszer döntéseket hoz a foglalkoztatásról vagy a hitelképességről, milyen jogi és etikai normákat kell alkalmazni? Az egyértelmű felelősségi körök megállapítása kritikus fontosságú ezen aggályok kezelésében. Ez új jogi keretek és szabályozások kidolgozását jelentheti, amelyek meghatározzák a mesterséges intelligencia mérnökeinek, üzemeltetőinek és felhasználóinak szerepét és felelősségét. Ez az átláthatóság és az elszámoltathatóság új mechanizmusainak kidolgozását is jelentheti, például ellenőrzési nyomvonalakat és független szervek általi felügyeletet.
Egyenlőtlenségek a társadalomban
Az önvezető járművek rengeteg teherautó-sofőrt és kézbesítő munkást válthatnak ki. Bár a mesterséges intelligencia révén új munkahelyek jöhetnek létre, fennáll annak a veszélye, hogy az automatizálás előnyei nem oszlanak majd el egyenletesen a társadalomban. Ez gazdasági egyenlőtlenséghez vezethet.
A mesterséges intelligencia előnyeinek eloszlása számos tényezőtől függ majd, például a technológia jellegétől, a munkavállalók képzettségétől és képzettségétől, valamint a gazdaságot irányító politikáktól és intézményektől. A gazdasági egyenlőtlenségek egyik lehetséges forrása a mesterséges intelligenciával kapcsolatos előnyök iparágak és társadalmi csoportok közötti egyenlőtlen eloszlása.
Például a mesterséges intelligencia valószínűleg nagyobb hatással lesz a rutinfeladatokat ellátó munkahelyekre, mint például a gyártás, a szállítás és az ügyfélszolgálat, mint a magasabb szintű készségeket igénylő munkahelyekre, mint például a kutatás, a tervezés és a vezetés.
Ez súlyosbíthatja a magas és közepes képzettségű munkavállalók között már most is meglévő bérszakadékot, és növelheti a szegénység és a munkanélküliség kockázatát egyes ágazatokban és közösségekben.
A mesterséges intelligencia előnyei a vállalatok és a magasan képzett munkavállalók egy kis csoportját illethetik meg, míg a jövedelemkiesés költségeit a munkavállalók és közösségek nagyobb csoportja viselheti. Ez ahhoz vezethet, hogy a vagyon és a hatalom kevesek kezében összpontosul, és tovább mélyül a szakadék a rendelkezők és a nem rendelkezők között. Ez pedig társadalmi zavargásokat és politikai instabilitást gerjeszthet, mivel azok, akik úgy érzik, hogy a mesterséges intelligencia által vezérelt gazdaság lemaradtak vagy jogfosztottak, megpróbálhatják megkérdőjelezni a status quo-t, és nagyobb gazdasági és társadalmi igazságosságot követelnek.
Nem szándékolt következmények
A mesterséges intelligencia rendszereket úgy tervezték, hogy nagy mennyiségű adat alapján tanuljanak és hozzanak döntéseket. A betanításukhoz használt adatok azonban hiányosak lehetnek, ami nem kívánt eredményekhez vezethet. Például egy mesterséges intelligencia rendszer, amelyet egy város forgalmi áramlásának optimalizálására használnak, véletlenül növelheti a torlódásokat bizonyos területeken, vagy olyan új közlekedési mintákat hozhat létre, amelyek zavarják a helyi közösségeket.
Egy másik példa: ha egy mesterséges intelligencia rendszert olyan adatokon képeznek ki, amelyek túlnyomórészt egy bizonyos demográfiai csoportot képviselnek, akkor olyan döntéseket hozhat, melyek más csoportokat hátrányosan érintenek. A mesterséges intelligencia összetettsége azt jelenti, hogy a rendszer különböző összetevői közötti kölcsönhatásokból nem szándékolt következmények is adódhatnak. A közösségi média megfigyelésére és elemzésére használt mesterséges intelligencia akaratlanul is létrehozhat olyan szűrőbuborékokat vagy visszhangkamrákat, amelyek megerősítenek bizonyos elfogultságokat vagy nézőpontokat. Ez polarizált társadalomhoz vezethet, és alááshatja a demokratikus értékeket.
A mesterséges intelligencia nem szándékolt következményeit nehéz lehet előre jelezni és ellenőrizni, ami kihívássá teszi hatásuk mérséklését. Ezért elengedhetetlen az átlátható mesterséges intelligencia-infrastruktúrák kiépítése.
Ez azt jelenti, hogy a felhasználóknak képesnek kell lenniük megérteni, hogyan hoz döntéseket a mesterséges intelligencia, és szükség esetén meg kell tudni támadni vagy megfellebbezni ezeket a döntéseket.
Emellett az MI-t úgy kell megtervezni, hogy a méltányosságot, az egyenlőséget és az emberi jogokat előmozdító etikai és jogi keretek között működjön.
Magyarázhatóság és értelmezhetőség
Minél kifinomultabbá válik a mesterséges intelligencia, annál átláthatatlanabbá válik. Ezért nehéz lehet megérteni, hogy a rendszer hogyan jutott el egy bizonyos döntéshez vagy hogyan tett egy adott ajánlást. Ezek a rendszerek összetett algoritmusokat és neurális hálózatokat használnak a döntések meghozatalához, ami megnehezíti az emberek számára, hogy megértsék, hogyan jutnak el a következtetéseikhez.
Ez jelentős kihívásokat jelenthet azon egyének és szervezetek számára, melyeknek a mesterséges intelligenciát kritikus döntéshozatalra kell használniuk, például az egészségügyben, a pénzügyekben és a bűnüldözésben. A megmagyarázhatóság és értelmezhetőség egyik fő kihívása a fekete doboz problémája, amikor egy mesterséges intelligenciával működő rendszer belső működése ismeretlen vagy nehezen felismerhető. Bizonyos esetekben a mesterséges intelligencia nehezen értelmezhető vagy a logikának ellentmondó eredményeket hozhat létre, ami megnehezíti pontosságuk és megbízhatóságuk értékelését. Ez a velük szembeni bizalom hiányához vezethet.
Egzisztenciális kockázatok
Egyre nagyobb az aggodalom, hogy a mesterséges intelligencia egzisztenciális kockázatot jelenthet az emberiség számára. Akár szándékos visszaélés, akár nem szándékos következmények miatt. Például egy szuperintelligens mesterséges intelligencia rendszer ellenőrizhetetlenné válhat, és egzisztenciális fenyegetést jelenthet az emberi civilizációra.
E kockázatok elhárítása érdekében elengedhetetlen, hogy olyan kutatásokba fektessünk be, melyek célja az MI biztonságának és ellenőrizhetőségének biztosítása.
Ez magában foglalhatja a biztonságot és a védelmet előtérbe helyező új MI-tervezési megközelítések kidolgozását, valamint a szuperintelligens MI-rendszerek potenciális kockázatait és előnyeit feltáró kutatásba való befektetést.
