Generic selectors
Exact matches only
Search in title
Search in content
Post Type Selectors
post

Miért látjuk mindig fenyegetésnek az új technológiákat?

MEGOSZTÁS

Ismét egy új technológia (a nagy nyelvi modellek és a generatív algoritmusok) szigorú szabályozására irányuló sürgető felhívásokat hallunk, mely a változásoktól való alapvető félelemben gyökeredzik. Jelentős technológiai előrelépések történnek számos területen, beleértve az információs és kommunikációs technológiát, a mesterséges intelligenciát, különösen a gépi tanulás és a robotika terén, a nanotechnológiát, az űrtechnológiát, a biotechnológiát és a kvantumszámítást, hogy csak néhányat említsünk. Miért látjuk mindig veszélyesnek eme technológiai nóvumokat?

(Kiemelt kép: Unsplash+)

Ezek az áttörések várhatóan nagymértékben „bomlasztó, avagy diszruptív” hatásúak lesznek, és jelentős „átalakító” változásokat hoz(hat)nak a társadalmunk működésében. A szóban forgó mai technológiai fejlődést a több mint négy évtizeddel ezelőtt kezdődött „digitális forradalom” hajtja. Ezek az innovációk az információs tudományokból származó hatalmas mennyiségű adat összegyűjtésére, feldolgozására és elemzésére összpontosítanak, ami a kutatás és fejlesztés számtalan területére hatással van. Ezek az előrelépések jelentős társadalmi és gazdasági előnyöket, nagyobb hatékonyságot és termelékenységet ígérnek számos ágazatban.

Miért látjuk mindig fenyegetésnek az új technológiákat?
A szóban forgó mai technológiai fejlődést a több mint négy évtizeddel ezelőtt kezdődött „digitális forradalom” hajtja (Fotó: Unsplash+)

A technológia „bomlasztó” potenciálja

Egyre nagyobb az aggodalom azonban amiatt, hogy ezek a technológiák és felhasználásuk módja komoly kihívásokat fog jelenteni, beleértve a munkaerő-állomány eltolódását és más piaci zavarokat, az egyenlőtlenségek súlyosbodását, valamint a közbiztonságot és a nemzetbiztonságot fenyegető új kockázatokat. Ezek a technológiák többnyire kettős felhasználásúak, azaz éppúgy használhatók rosszindulatú vagy halálos célokra, mint a társadalmi és gazdasági fejlődés előmozdítására, ami sokkal összetettebbé teszi a kezelésükre irányuló erőfeszítéseket. Ezzel párhuzamosan világszerte nőnek a geopolitikai feszültségek, és a legtöbb ország egyre inkább úgy tekint ezekre a technológiákra, mint a nemzetbiztonság központi elemeire. A visszaélések lehetősége jelentős. A nagyobb gazdasági integráció és összekapcsolhatóság pedig azt jelenti, hogy a technológiai fejlődés hatásai és következményei a korábbinál sokkal kevésbé lokalizáltak, és alkalmasak arra, hogy az egész világ országaira és iparágaira átterjedjenek.

Miért látjuk mindig fenyegetésnek az új technológiákat?
Ezek a technológiák többnyire kettős felhasználásúak, azaz éppúgy használhatók rosszindulatú vagy halálos célokra, mint a társadalmi és gazdasági fejlődés előmozdítására, ami sokkal összetettebbé teszi a kezelésükre irányuló erőfeszítéseket (Fotó: Unsplash+)

A technológiai innováció nagyrészt a kormányok hatáskörén kívül zajlik. Ennek üteme sok esetben meghaladja az államok azon képességét, hogy lépést tartsanak a legújabb fejleményekkel és azok lehetséges társadalmi hatásaival. És még ha egy vagy néhány nemzeti kormány ki is dolgoz szabályozásokat eme hatások kezelésére, számos újonnan megjelenő technológia és hatásaik globális kiterjedése a többoldalú kormányzás új megközelítéseit teszi szükségessé, melyekről sokkal nehezebb megegyezni. A technikai és normatív megoldások kezdeményezése, kialakítása és végrehajtása érdekében a szereplők nagyobb számát és sokféleségét kell bevonni. A kormányokhoz hasonlóan azonban e többi szereplő közül sokan nem rendelkeznek (vagy egyszerűen nem fektetnek be) olyan eszközökkel, melyekkel mérlegelni tudnák beruházásaik, kutatásaik és innovációik szélesebb körű, határokon átnyúló társadalmi hatásait. Ha mégis, akkor kihívást jelenthet a legmegfelelőbb vagy leghatékonyabb politikaorientált vagy normatív fókuszú platformok meghatározása e következmények megvitatására, nem utolsósorban azért, mert a meglévő platformok néha nem veszik figyelembe az érintett szereplők sokféleségét, a szóban forgó technológiák határokon átnyúló hatókörét, valamint a különböző érték- és politikai rendszereket. Ez különösen igaz akkor, amikor a technológiákat kizárólag profitszerzésre tervezik, és pályájuk teljes mértékben a piaci erőkön múlik.

Miért látjuk mindig fenyegetésnek az új technológiákat?
A kormányokhoz hasonlóan azonban e többi szereplő közül sokan nem rendelkeznek (vagy egyszerűen nem fektetnek be) olyan eszközökkel, melyekkel mérlegelni tudnák beruházásaik, kutatásaik és innovációik szélesebb körű, határokon átnyúló társadalmi hatásait (Fotó: Unsplash+)

A mai technológiai fejlődést nemcsak piaci szempontból tekintik bomlasztónak, hanem abban az értelemben is, hogy „a jogi és szabályozási rendek megzavarását idézik elő”, és képesek „megzavarni azokat a mély értékeket, melyeken a fennálló társadalmi rendek legitimitása nyugszik, és melyekre az elfogadott jogi és szabályozási keretek épülnek”. A technológia egyes területeit már most is összetett, dinamikus keretek szabályozzák. A kibertér például a meglévő nemzetközi jog, valamint a politikai megállapodások egyre növekvő, bonyolult sorozata, a technikai szabványok és jegyzőkönyvek, a kereskedelmi, üzleti és emberi jogi normák, a kutatási elvek, a nemzeti szabályozások és a magánszektor önszabályozása által szabályozott területek összessége. Ezeket a jogi és normatív próbaköveket meglévő normák, értékek és elvek támasztják alá. Különböző szakpolitikai területeket és kérdéseket ölelnek fel, szereplők szédítő sokaságát vonják be, és számos nemzetközi rendszer között mozognak. Ráadásul egyre több bizalom- és kapacitásépítő intézkedés és erőfeszítés egészíti ki őket, melyek célja a biztonság és az ellenálló képesség fokozása. E rendszer fontos elemei azonban továbbra is vitatottak, még akkor is, ha új kockázatok és sebezhetőségek – például a Dolgok Internetéhez, a Mesterséges Intelligenciához és más technológiákhoz kapcsolódó kockázatok – jelennek meg, melyeket kezelni kell.

Miért látjuk mindig fenyegetésnek az új technológiákat?
A kibertér például a meglévő nemzetközi jog, valamint a politikai megállapodások egyre növekvő, bonyolult sorozata, a technikai szabványok és jegyzőkönyvek, a kereskedelmi, üzleti és emberi jogi normák, a kutatási elvek, a nemzeti szabályozások és a magánszektor önszabályozása által szabályozott területek összessége (Fotó: Unsplash+)

Mesterséges intelligencia: veszélyek és lehetőségek

A mesterséges intelligencia egyre inkább befolyásolja életünket. Európa növekedése és jóléte szorosan összefügg azzal, hogy miként használja fel az adatokat és az összekapcsolt technológiákat. A mesterséges intelligencia nagyban megváltoztathatja az életünket – jóban-rosszban -, ezért az Európai Parlament létrehozott egy bizottságot a mesterséges intelligenciával kapcsolatban a mai digitális korban, mely megvizsgálta a technológia hatásait, és javaslatot tett egy hosszú távú uniós útitervre a mesterséges intelligenciával kapcsolatban. Az európai parlamenti képviselők egy jövőbiztos MI-szabályozást szorgalmaznak. Az alábbiakban bemutatunk néhány kulcsfontosságú lehetőséget és veszélyt, melyek a mesterséges intelligencia jövőbeli alkalmazásaihoz kapcsolódnak.

Miért látjuk mindig fenyegetésnek az új technológiákat?
Miért látjuk mindig veszélyesnek eme technológiai nóvumokat? (Fotó: Unsplash+)

A mesterséges intelligencia előnyei

Az uniós országok már most is erősek a digitális ipar és az üzleti vállalkozások közötti alkalmazások terén. A magas színvonalú digitális infrastruktúrával és a magánéletet és a szólásszabadságot védő szabályozási kerettel az EU globális vezető szerepet tölthet be az adatgazdaság és annak alkalmazásai terén.

Emberek

A mesterséges intelligencia jobb egészségügyi ellátással, biztonságosabb autókkal és más közlekedési rendszerekkel, személyre szabott, olcsóbb és hosszabb élettartamú termékekkel és szolgáltatásokkal segíthetné az embereket. Megkönnyítheti az információhoz, az oktatáshoz és a képzéshez való hozzáférést is. A Covid-19 világjárvány miatt a távoktatás iránti igény még fontosabbá vált. A mesterséges intelligencia biztonságosabbá teheti a munkahelyeket is, mivel a robotok a veszélyes munkakörökben is alkalmazhatók, és új munkaköröket nyithat meg, mivel a mesterséges intelligencia által vezérelt iparágak növekednek és változnak.

Miért látjuk mindig fenyegetésnek az új technológiákat?
A mesterséges intelligencia biztonságosabbá teheti a munkahelyeket is, mivel a robotok a veszélyes munkakörökben is alkalmazhatók, és új munkaköröket nyithat meg, mivel a mesterséges intelligencia által vezérelt iparágak növekednek és változnak (Fotó: Unsplash+)

Vállalkozások

A vállalkozások számára az MI lehetővé teheti a termékek és szolgáltatások új generációjának kifejlesztését, többek között olyan ágazatokban, ahol az európai vállalatok már most is erős pozíciókkal rendelkeznek: zöld és körkörös gazdaság, gépipar, mezőgazdaság, egészségügy, divat, turizmus. Fellendítheti az értékesítést, javíthatja a gépek karbantartását, növelheti a termelési teljesítményt és a minőséget, javíthatja az ügyfélszolgálatot, valamint energiát takaríthat meg.

Közszolgáltatások

A közszolgáltatásokban alkalmazott mesterséges intelligencia csökkentheti a költségeket és új lehetőségeket kínál a tömegközlekedés, az oktatás, az energia- és hulladékgazdálkodás területén, valamint javíthatja a termékek fenntarthatóságát. Ily módon a mesterséges intelligencia hozzájárulhat az EU Green Deal céljainak eléréséhez.

A demokrácia erősítése

A demokráciát az adatalapú ellenőrzéssel, a dezinformáció és a kibertámadások megelőzésével, valamint a minőségi információkhoz való hozzáférés biztosításával lehetne megerősíteni. A mesterséges intelligencia támogathatná a sokszínűséget és a nyitottságot is, például azáltal, hogy a felvételi döntések során mérsékli az előítéletek lehetőségét, és ehelyett elemző adatokat használ.

Biztonság és védelem

Az előrejelzések szerint a mesterséges intelligenciát a bűnmegelőzésben és a büntető igazságszolgáltatási rendszerben is nagyobb mértékben fogják alkalmazni, mivel a hatalmas adathalmazok gyorsabban feldolgozhatók, a foglyok menekülésének kockázatai pontosabban felmérhetők, a bűncselekmények vagy akár a terrortámadások előre jelezhetők és megelőzhetők. Az online platformok már most is használják az MI-t a jogellenes és nem megfelelő online viselkedés észlelésére és az arra való reagálásra. Katonai téren a mesterséges intelligencia felhasználható a hacker- és adathalászat védelmi és támadási stratégiáihoz, illetve a kiberháborúban a kulcsfontosságú rendszerek célba vételéhez.

Miért látjuk mindig fenyegetésnek az új technológiákat?
Az online platformok már most is használják az MI-t a jogellenes és nem megfelelő online viselkedés észlelésére és az arra való reagálásra (Fotó: Unsplash+)

A mesterséges intelligencia fenyegetései és kihívásai

 

Alul-és túlhasználat

A mesterséges intelligencia nem megfelelő alkalmazása komoly veszélynek számít: az EU számára az elszalasztott lehetőségek a nagy programok – például az EU Green Deal – rossz végrehajtását, a világ más részeivel szembeni versenyelőny elvesztését, gazdasági stagnálást és az emberek számára rosszabb lehetőségeket jelenthetnek. Az alulhasznosítás a közvélemény és a vállalkozások bizalmatlanságából, a gyenge infrastruktúrából, a kezdeményezőkészség hiányából, az alacsony beruházásokból, illetve – mivel a mesterséges intelligencia gépi tanulása az adatoktól függ – a digitális piacok széttöredezettségéből eredhet. A túlhasználat is problémás lehet: olyan MI-alkalmazásokba való befektetés, melyekről kiderül, hogy nem hasznosak, vagy az MI olyan feladatokra való alkalmazása, melyekre nem alkalmas, például összetett társadalmi kérdések magyarázatára.

A felelősség kérdése

Fontos kihívást jelent annak meghatározása, hogy ki a felelős az MI által működtetett eszköz vagy szolgáltatás által okozott károkért: egy önvezető autó balesete esetén. A kárt a tulajdonos, az autó gyártója vagy a programozó fedezze? Ha a gyártó teljesen mentesülne a felelősségre vonástól, akkor nem lenne ösztönzés arra, hogy jó terméket vagy szolgáltatást nyújtson, és ez ronthatná az emberek bizalmát a technológiában; de a szabályozás túl szigorú is lehetne, és elfojtaná az innovációt.

Miért látjuk mindig fenyegetésnek az új technológiákat?
Az alulhasznosítás a közvélemény és a vállalkozások bizalmatlanságából, a gyenge infrastruktúrából, a kezdeményezőkészség hiányából, az alacsony beruházásokból, illetve – mivel a mesterséges intelligencia gépi tanulása az adatoktól függ – a digitális piacok széttöredezettségéből eredhet (Fotó: Unsplash+)

Alapvető jogok és demokrácia

A mesterséges intelligencia eredményei attól függnek, hogy hogyan tervezik meg, és milyen adatokat használ. Mind a tervezés, mind az adatok lehetnek szándékosan vagy akaratlanul elfogultak. Előfordulhat például, hogy egy kérdés néhány fontos aspektusa nem kerül beprogramozásra az algoritmusba, vagy úgy programozzák, hogy az tükrözze és megismételje a strukturális előítéleteket. Ezzel szemben a számok használata a komplex társadalmi valóság ábrázolására a mesterséges intelligenciát tényszerűnek és pontosnak állítja be, holott nem az. Ezt néha „MI-matematikai-mosdatásnak” is nevezik. Ha nem megfelelően végzik, a mesterséges intelligencia olyan döntésekhez vezethet, melyeket az etnikai hovatartozásra, nemre, életkorra vonatkozó adatok befolyásolnak a munkaerő-felvétel vagy elbocsátás, a hitelnyújtás vagy akár a büntetőeljárások során. A mesterséges intelligencia súlyosan érintheti a magánélethez és az adatvédelemhez való jogot. Alkalmazható például arcfelismerő berendezésekben vagy az egyének online nyomon követésére és profilalkotására. Ezenkívül a mesterséges intelligencia lehetővé teszi az egyén által megadott információk új adatokká történő összevonását, ami olyan eredményekhez vezethet, amelyekre az érintett személy nem számított. Az MI veszélyt jelenthet a demokráciára nézve is; a mesterséges intelligenciát már vádolták azzal, hogy a személyek korábbi online viselkedésén alapuló online „visszhangkamrákat” hoz létre, melyek csak az adott személynek tetsző tartalmakat jelenítik meg ahelyett, hogy pluralista, egyformán hozzáférhető és befogadó nyilvános viták környezetét hoznák létre. Az MI még rendkívül valósághű hamis videók, hangok és képek, úgynevezett deepfakes létrehozására is alkalmas, melyek pénzügyi kockázatot jelenthetnek, árthatnak a hírnévnek, és megkérdőjelezhetik a döntéshozatalt. Mindez a közszférában elkülönüléshez és polarizációhoz vezethet, és manipulálhatja a választásokat. A mesterséges intelligencia a gyülekezési és tiltakozási szabadság sérelmében is szerepet játszhat, mivel nyomon követheti és profilozhatja a bizonyos meggyőződésekhez vagy cselekedetekhez kötődő személyeket.

Miért látjuk mindig fenyegetésnek az új technológiákat?
Az MI még rendkívül valósághű hamis videók, hangok és képek, úgynevezett deepfakes létrehozására is alkalmas, melyek pénzügyi kockázatot jelenthetnek, árthatnak a hírnévnek, és megkérdőjelezhetik a döntéshozatalt (Fotó: Unsplash+)

Munkahelyek

A mesterséges intelligencia munkahelyi alkalmazása várhatóan számos munkahely megszűnését fogja eredményezni. Bár az MI várhatóan munkahelyeket is teremt és jobbá tesz, az oktatásnak és a képzésnek döntő szerepe lesz a hosszú távú munkanélküliség megelőzésében és a képzett munkaerő biztosításában. Az OECD-országokban a munkahelyek 14%-a nagymértékben automatizálható, és további 32%-uk jelentős változásokkal szembesülhet.

Versenyelőny

Az információhalmozás a piaci verseny torzulásához is vezethet, mivel a több információval rendelkező vállalatok előnyre tehetnek szert, és hatékonyan kiiktathatják a versenytársakat.

Miért látjuk mindig fenyegetésnek az új technológiákat?
Az információhalmozás a piaci verseny torzulásához is vezethet, mivel a több információval rendelkező vállalatok előnyre tehetnek szert, és hatékonyan kiiktathatják a versenytársakat (Fotó: Unsplash+)

Biztonság

Az emberekkel fizikai kapcsolatba kerülő vagy az emberi testbe integrált mesterséges intelligencia-alkalmazások biztonsági kockázatokat jelenthetnek, mivel rosszul tervezhetik meg őket, visszaélhetnek velük vagy feltörhetik őket. A mesterséges intelligencia fegyverekben való rosszul szabályozott alkalmazása a veszélyes fegyverek feletti emberi ellenőrzés elvesztéséhez vezethet.

Kihívások

Az információkhoz való hozzáférés egyenlőtlenségeit ki lehetne használni. Például egy személy online viselkedése vagy egyéb adatai alapján és a tudta nélkül egy online eladó mesterséges intelligenciával megjósolhatja, hogy valaki hajlandó-e fizetni, vagy egy politikai kampány adaptálhatja üzenetét. Egy másik átláthatósági probléma, hogy az emberek számára néha nem egyértelmű, hogy a mesterséges intelligenciával vagy egy emberrel lépnek-e kapcsolatba.

Miért látjuk mindig fenyegetésnek az új technológiákat?
Egy személy online viselkedése vagy egyéb adatai alapján és a tudta nélkül egy online eladó mesterséges intelligenciával megjósolhatja, hogy valaki hajlandó-e fizetni, vagy egy politikai kampány adaptálhatja üzenetét (Fotó: Unsplash+)

A mesterséges intelligencia dilemmája

A videóban Tristan Harris és Aza Raskin arról beszélgetnek, hogy a meglévő MI-képességek már most is katasztrofális kockázatokat jelentenek a társadalomra nézve. Sőt a mesterséges intelligencia korifeus cégek meggondolatlanul versenyeznek a minél gyorsabb bevezetésért, megfelelő biztonsági intézkedések nélkül, és arról is értekeznek, hogy mekkora feladatot jelentene valójában intézményeinket egy MI utáni világba ténylegesen megpróbálni átültetni.

 

Ez az előadás egy 2023. március 9-én, San Franciscóban tartott zártkörű összejövetelről származik, melyen olyan vezető technológusok és döntéshozók vettek részt, akik képesek befolyásolni a nagy nyelvi modellekből álló MI-ek jövőjét. Ez az előadás a GPT-4 elindítása előtt hangzott el.

Miért látjuk mindig fenyegetésnek az új technológiákat?

IT EXPERTS-TECH LEADERS 2024 FELHŐ A JAVÁBÓL KONFERENCIA

ICT Global News

VIDEOGALÉRIA
FOTÓGALÉRIA

Legnépszerűbb cikkek

ICT Global News

Iratkozz fel a hírlevelünkre, hogy ne maradj le az IT legfontosabb híreiről!