Generic selectors
Exact matches only
Search in title
Search in content
Post Type Selectors
post

VÁLASZTÁS 2024: Navigálás a délibábok között, avagy a mesterséges intelligencia hatása a választások integritására

MEGOSZTÁS

A digitális korszak felgyorsulásával a mesterséges intelligencia az életünk minden területét átalakítja, beleértve a választások „szent és demokratikus” folyamatát is. Az OpenAI által kifejlesztett generatív MI-technológiák megjelenése a lehetőségek és veszélyek új korszakát hozta el, különösen a szavazások biztonsága és integritása terén. Az MI által generált dezinformáció és a deepfake elterjedése soha nem látott kihívások elé állítja a demokratikus társadalmakat, ami szükségessé teszi a választások védelmére vonatkozó eddigi megközelítéseink újraértékelését.

A Világgazdasági Fórum Davosban megvitatott Globális kockázatokról szóló 2024. évi jelentése jelentős kockázatként azonosítja az MI által generált álhíreket, és a szakértők a választások biztonságát illetően borús kilátásokat jósolnak. Az MI képessége, hogy meggyőző deepfake-eket és félretájékoztatási kampányokat generáljon, befolyásolhatja a választókat, erőszakra uszíthat, és alááshatja a megválasztott kormányok legitimitását. Ezek a fenyegetések nem korlátozódnak a digitális világra, hanem a fizikai valóságunkra is hatással vannak, ami a társadalmi polarizáció növekedéséhez és potenciálisan politikai zavargásokhoz vezethet.

VÁLASZTÁS 2024: Navigálás a délibábok között, avagy a mesterséges intelligencia hatása a választások integritására
A generatív mesterséges intelligencia jelentősen csökkentette a dezinformációs kampányok belépési korlátját. E technológiák megfizethetősége és hozzáférhetősége lehetővé teszi az online cenzúra és félretájékoztatás pontosabb és finomabb formáit (Fotó: Unsplash+)

A kifinomult mesterséges intelligenciamodellek által létrehozott mélyhamisítványok súlyosbítják a meglévő társadalmi megosztottságot, felszítják a rasszizmust és az előítéleteket. A meggyőző „hamis narratívák” létrehozására való képességük súlyosan befolyásolhatja a demokratikus folyamatok integritását, kihívás elé állítva a civil társadalmat, a technológiai vállalatokat és a kormányokat a választási integritás fenntartásában.  A dezinformáción túl a mesterséges intelligencia befolyása kiterjed a választások alapvető működési szempontjaira is, például a szavazók regisztrációjára és ellenőrzésére, ahol az algoritmikus torzítások új sebezhetőséget teremthetnek. A Berryville Institute of Machine Learning 23 olyan kockázatot azonosított a nagy nyelvi modellek (Large Language Models, LLM) felépítésében, melyek a választások integritását veszélyeztetik egy olyan rekurzív „szennyezés” segítségével, ahol az LLM-ek rossz kimenete visszakerül a képzési adatállományba, ami növeli a szavazások körüli félretájékoztatást.

A dezinformáció mértéke

A generatív mesterséges intelligencia jelentősen csökkentette a dezinformációs kampányok belépési korlátját. E technológiák megfizethetősége és hozzáférhetősége lehetővé teszi az online cenzúra és félretájékoztatás pontosabb és finomabb formáit. A Freedom House 16 országban dokumentálta a generatív mesterséges intelligencia alkalmazását a közvélemény manipulálására, és a 2023-as Freedom on the Net jelentés szerint a globális internetszabadság már a tizenharmadik egymást követő évben csökkent, részben a mesterséges intelligencia miatt. A mesterséges intelligenciának a dezinformációs kampányok felerősítésében játszott szerepét felnagyítja, hogy képes folyamatosan működni, és a félretájékoztatásnak egy olyan 24/7-es ciklusát hozza létre, mely túlterheli a közösségi médiaplatformokat és a szabályozási erőfeszítéseket. A hamis információknak ez a mesterséges intelligencia által táplált könyörtelen terjedése megnehezíti a demokratikus döntéshozatalhoz nélkülözhetetlen tényszerű és „egészséges közbeszéd” fenntartásának feladatát.

Jogalkotási és technológiai válaszok

E kihívásokra válaszul olyan jogalkotási törekvések, mint például a „No Artificial Intelligence Fake Replicas and Unauthorized Duplications Act” (Törvény a mesterséges intelligencia hamis másolatairól és engedély nélküli másolatairól), a mesterséges intelligencia által generált tartalmak létrehozásának és terjesztésének szabályozására irányulnak. A jogalkotási és szabályozási válaszok üteme azonban gyakran elmarad a mesterséges intelligenciával kapcsolatos technológiák gyors fejlődésétől, így a választásokba való beavatkozás elleni hatékony védekezésben hiányosságok tapasztalhatók. A kiberbiztonsági környezet is fejlődik: a zéró bizalom keretrendszerek elfogadása és a kvantumszámítástechnika megjelenésére való felkészülés a mesterséges intelligencia által vezérelt fenyegetésekkel szembeni kifinomultabb védelmi mechanizmusok irányába való elmozdulást jelzi. Ezen előrelépések ellenére az ilyen intézkedések hatékonysága a választások kontextusában még nem valósult meg teljes mértékben. Noha ezek a gondolatok megalapozottak, az ilyen keretrendszerek nemzeti, sőt talán globális szinten történő megvalósítása kihívást jelent majd.

VÁLASZTÁS 2024: Navigálás a délibábok között, avagy a mesterséges intelligencia hatása a választások integritására
A mesterséges intelligenciának a dezinformációs kampányok felerősítésében játszott szerepét felnagyítja, hogy képes folyamatosan működni, és a félretájékoztatásnak egy olyan 24/7-es ciklusát hozza létre, mely túlterheli a közösségi médiaplatformokat és a szabályozási erőfeszítéseket. A hamis információknak ez a mesterséges intelligencia által táplált könyörtelen terjedése megnehezíti a demokratikus döntéshozatalhoz nélkülözhetetlen tényszerű és „egészséges közbeszéd” fenntartásának feladatát (Fotó: Unsplash+)

Politikai vadnyugat

A politikai színtér már most is tanúja a mesterséges intelligencia átalakító hatásának: a politikai szervezetek a gyors tartalomkészítés és a pontos üzenetcélzás érdekében kihasználják a generatív mesterséges intelligenciát. Az MI által vezérelt politikai üzenetküldés felé való elmozdulás a valódi és a manipulált tartalom megkülönböztetésének új szintű bonyolultságát hozza magával, ami kihívást jelent a választók számára, hogy megalapozott döntéseket tudjanak hozni. Az Egyesült Államokban például a Republikánus Nemzeti Bizottság egy mesterséges intelligencia által generált videót használt Joe Biden bírálatára, bemutatva, hogy a mesterséges intelligencia hogyan alakíthatja át a választásokat. A „digitális tartalomgyártás” irányába történő elmozdulás lehetővé teszi a kampányok alakulására való gyors reagálást és a választók pontos megcélzását.

Egy rugalmas demokrácia felé

A mesterséges intelligencia, a kiberbiztonság és a demokrácia metszéspontja sokoldalú megközelítést igényel a választások integritásának biztosítása érdekében. Ez magában foglalja az olyan innovatív megoldások kidolgozását, mint például:

  • Adatelemzési és megfigyelési eszközök: A gépi tanulási modellek alkalmazásával lehetőség nyílik a dezinformációs kampányokhoz kapcsolódó minták és trendek felismerésére. Ez magában foglalja az álhírek terjedésének elemzését, a botok által generált tartalmak azonosítását és a szokatlan aktivitási csúcsok megfigyelését, melyek összehangolt dezinformációs erőfeszítésekre utalhatnak.
  • Természetes nyelvi feldolgozás a tartalom ellenőrzéséhez: Olyan NLP-modellek kifejlesztése, melyek segíthetnek a hírcikkek, a közösségi médiában közzétett bejegyzések és egyéb tartalmak hitelességének ellenőrzésében. Az ellenőrzött információk és az ismert dezinformációk adathalmazain végzett képzéssel ezek az eszközök segíthetnek a potenciálisan hamis tartalmak gyors megjelölésében és további felülvizsgálatában.
  • Grafikus analitika a hálózatelemzéshez: Végezzenek gráfelemzést a félretájékoztatás terjedését elősegítő hálózatok megértéséhez. A dezinformációt gyakran terjesztő kulcsfontosságú csomópontok (pl. közösségi médiafiókok vagy weboldalak) azonosítása segíthet az e hálózatok felbomlasztására és a terjedés forrásánál történő megállítására irányuló erőfeszítések megcélzásában.
  • Valós idejű riasztórendszerek: Olyan valós idejű riasztórendszerek kifejlesztése, melyek értesítik az érintett érdekelt feleket (például a médiafelügyeletet, a közösségi médiaplatformokat és a választási bizottságokat) az esetleges dezinformációs kampányokról. Ez lehetővé teheti a gyorsabb reagálást a felmerülő fenyegetésekre.
VÁLASZTÁS 2024: Navigálás a délibábok között, avagy a mesterséges intelligencia hatása a választások integritására
A gépi tanulási modellek alkalmazásával lehetőség nyílik a dezinformációs kampányokhoz kapcsolódó minták és trendek felismerésére. Ez magában foglalja az álhírek terjedésének elemzését, a botok által generált tartalmak azonosítását és a szokatlan aktivitási csúcsok megfigyelését, melyek összehangolt dezinformációs erőfeszítésekre utalhatnak (Fotó: Unsplash+)

A nyilvánosság tudatosítása és a tényellenőrzés integrált eszközei

Már most is vannak különböző tanúsítványok a vállalatok számára, például SOC, ISO stb. Ezek a keretrendszerek történelmileg azért jöttek létre, hogy igazolják, egy szervezet alkalmas az érzékeny felhasználói adatok tárolására. Ez az infrastruktúra alapos vizsgálatával és annak biztosításával történik, hogy a biztonságot a legmagasabb prioritásként kezeljék. A nyilvánosságot és a tényellenőrzőket felhatalmazó eszközöket, melyek hozzáférést biztosítanak számukra a dezinformációs tendenciákra rávilágító adatokhoz és elemzésekhez, kötelezővé kell tenni a közösségi médiaplatformokon, ahol a félretájékoztatás burjánzik, hasonló tanúsítványok segítségével. Ezek az eszközök segíthetnek a hamis narratívák hatékonyabb leleplezésében és a nyilvánosság tájékoztatásában a dezinformációs kampányokban alkalmazott taktikákról.

Együttműködés kutatókkal és politikai döntéshozókkal

Lépjenek partnerségre tudományos intézményekkel, politikai döntéshozókkal és a digitális integritás és a demokrácia területén dolgozó nem kormányzati szervezetekkel. Különböző adatplatformok lehetővé teszik az együttműködést, mint például a Databricks együttműködő „jegyzetfüzetei”. Ezek értékes forrást jelenthetnek a dezinformációval kapcsolatos kutatásokhoz, és segíthetnek a dezinformáció hatásának mérséklését célzó szakpolitikai és szabályozási megközelítésekben.

VÁLASZTÁS 2024: Navigálás a délibábok között, avagy a mesterséges intelligencia hatása a választások integritására
A politikai színtér már most is tanúja a mesterséges intelligencia átalakító hatásának: a politikai szervezetek a gyors tartalomkészítés és a pontos üzenetcélzás érdekében kihasználják a generatív mesterséges intelligenciát (Fotó: Unsplash+)

Etikus mesterséges intelligencia-modellek létrehozása

Kötelezzék el magukat az etikus MI-fejlesztési gyakorlatok mellett, biztosítva az átláthatóságot, az elszámoltathatóságot és a méltányosságot a dezinformáció elleni küzdelemre épített MI-modellekben. Ez magában foglalja olyan modellek létrehozását, melyek megmagyarázhatók és mentesek az olyan elfogultságoktól, melyek befolyásolhatják hatékonyságukat vagy tisztességességüket. Az OpenAI óriási munkát végzett a válaszok korlátozásában az LLM: GPT-4-en. Végigfuttat egy magatartási kódexet és teszteli, hogy a felhasználó kérése megfelel-e a közösségi irányelveknek. Elsősorban ezért nem lehet már a DALL-E segítségével olyan képet generálni, mely egy hírességet vagy egy szerzői joggal védett műalkotást mutat be.

A cél nem csupán az MI által generált dezinformáció által jelentett kockázatok csökkentése, hanem a demokratikus intézmények ellenálló képességének erősítése is a technológiai fejlődéssel szemben. Miközben ebben a „délibábos világban” navigálunk, a kormányok, a technológiai vállalatok, a civil társadalom és a választópolgárok közös erőfeszítései kulcsfontosságúak lesznek a demokrácia elveinek fenntartásában. Az előre vezető út éberséget, együttműködést és a digitális korban az átláthatóság és integritás iránti rendíthetetlen elkötelezettséget követel.

VÁLASZTÁS 2024: Navigálás a délibábok között, avagy a mesterséges intelligencia hatása a választások integritására

(Kiemelt kép: Unsplash+)

IT EXPERTS-TECH LEADERS 2024 FELHŐ A JAVÁBÓL KONFERENCIA

ICT Global News

VIDEOGALÉRIA
FOTÓGALÉRIA

Legnépszerűbb cikkek

ICT Global News

Iratkozz fel a hírlevelünkre, hogy ne maradj le az IT legfontosabb híreiről!