Proveniencia, avagy a digitális hitelesség kérdése az MI térhódítása mellett

(Kiemelt kép: Unsplash+)

A digitális hitelesség a mesterséges intelligencia által generált média egyik alapvető szempontja. Ahogy a mesterséges intelligencia által generált tartalmak egyre inkább elterjednek, létfontosságú annak megértése, hogyan lehet ellenőrizni és nyomon követni az ilyen média eredetét. Ez a téma mind a digitális tartalmak alkotóit, mind a fogyasztókat érdekelheti, és a digitális médiában a bizalomról és az integritásról szóló diskurzusokat indíthat el.

Képzeljük el, hogy böngészünk a világhálón, és egy olyan cikkel találkozunk, mely azt állítja, hogy „megdöbbentő igazságot” fed fel egy politikai vezetővel kapcsolatban. A cikkhez egy fénykép is tartozik, mely a vezetőt kompromittáló helyzetben mutatja. A történet felkavarja és felháborítja Önt, de azon is elgondolkodik: vajon ez valódi vagy hamisítvány?

Ez a forgatókönyv nem túlzás a mesterséges intelligencia által generált média korában. A nagy teljesítményű gépi tanulási modellek megjelenésével, melyek képesek valósághű szöveget, képeket és egyéb médiát létrehozni a semmiből, a tény és a fikció közötti különbség elmosódik.

A mesterséges intelligencia által generált média határtalan teret adhat a kreativitásnak, de komolyan veszélyeztetheti a bizalmat, az integritást és a hitelességet is a digitális világban.

A Statista felmérése szerint 2022-ben a marketingesek 42%-a bízik meg világszerte a mesterséges intelligenciában a tartalomkészítési tevékenységek elvégzésében, míg 38%-uk a tartalomkurátori tevékenységek elvégzésében. Ez azt mutatja, hogy az MI által generált média egyre elterjedtebbé és befolyásosabbá válik a média- és szórakoztatóiparban.

Az elmúlt két évtizedben bekövetkezett gyors fejlődést szemlélteti a nyelv- és képfelismerés terén elért figyelemre méltó digitális forradalom. A kezdeti -100-as teljesítményről a mesterséges intelligenciát alkalmazó rendszerek különböző területeken folyamatosan felülmúlják az emberi teljesítményt, ami jelentős változást jelent az egy évtizeddel ezelőtti állapothoz képest, amikor az ilyen teljesítmény elképzelhetetlen volt.

Hogyan biztosíthatjuk, hogy az általunk fogyasztott média hiteles és megbízható legyen? Hogyan tudjuk nyomon követni a tartalmak eredetét és történetét? Hogyan akadályozhatjuk meg a félretájékoztatás és a megtévesztés terjedését a mesterséges intelligencia korában? Többek között ezekre a kérdésekre keressük a választ.

A mesterséges intelligencia által generált médiában a származás és az ellenőrzés fogalmait vizsgáljuk meg, és azt, hogy ezek hogyan segíthetnek a digitális hitelesség megteremtésében és fenntartásában.

Növekvő kényszerhelyzet

A mesterséges intelligencia által generált média az MI által létrehozott vagy módosított bármilyen típusú médiatartalomra utal. Ide tartozik a szöveg, a kép, a hang, a videó és sok más. Az MI által generált média különböző módszerekkel állítható elő, például generatív adverzális hálózatokkal (GAN), variációs autókódolókkal (VAE), transzformátorokkal és másokkal. Az így generált médiának számos pozitív alkalmazása van, például a művészi kifejezésmód javítása, újszerű tartalmak létrehozása, a hozzáférhetőség javítása és így tovább.

Ugyanakkor számos negatív következménye is van, például mély hamisítványok létrehozása, félretájékoztatás terjesztése, a közvélemény manipulálása, a szellemi tulajdonjogok megsértése stb. A BBC nemrégiben megjelent cikke szerint a generatív mesterséges intelligencia új szövegeket, képeket és más médiaműfajokat képes létrehozni egy gépi tanulási modell futtatásával, melyet a világhálóról és máshonnan származó több milliárd meglévő tartalomdarabból táplálnak. Ma már lehetséges, hogy néhány sor leíró szöveget („prompt”) beírva az olyan eszközök, mint a Stable Diffusion vagy a Midjourney, elképesztő hűséggel és vizuális stílussal hozzanak létre egy képet. Sok alkalmi szemlélő nem tudná megmondani, hogy egy mesterséges intelligencia hozta-e létre.

A mesterséges intelligencia által generált média problémája technikai, de etikai és társadalmi jellegű is. Ahogy a mesterséges intelligencia egyre inkább képes valósághű és meggyőző médiatartalmakat létrehozni, az emberek számára egyre nehezebb lesz megkülönböztetni, hogy mi a valódi és mi a hamis.

Ez alááshatja a bizalmunkat a kapott információkban és a forrásokban, amelyekre támaszkodunk. Ez alááshatja a valóság- és identitástudatunkat is. Ezért ki kell dolgoznunk olyan módszereket, amelyekkel ellenőrizhetjük és hitelesíthetjük a világhálón megjelenő médiatartalmakat. Képesnek kell lennünk nyomon követni az általunk fogyasztott tartalom eredetét és integritását. Meg kell tudnunk különböztetni a valódi és a hamisított tartalmakat.

A származás és ellenőrzés szerepe

A származás és az ellenőrzés két olyan kulcsfogalom, mely segíthet a digitális hitelesség elérésében a mesterséges intelligencia által generált médiában. A származás egy tartalom eredetére és történetére utal, míg az ellenőrzés a tartalom hitelességének és integritásának értékelésére.

A proveniencia magában foglalja a tartalom forrásának, létrehozási folyamatának, tulajdonjogának és terjesztésének nyomon követését.

Olyan kérdésekre ad választ, mint például: ki hozta létre ezt a tartalmat? Mikor készült? Hogyan hozták létre? Ki a tulajdonosa? Ki fér hozzá? Hogyan módosították vagy osztották meg? Az ellenőrzés során azt kell ellenőrizni, hogy egy tartalom hiteles-e vagy sem. Olyan kérdésekre ad választ, mint például: eredeti vagy másolt tartalomról van szó? Ez a tartalom valódi vagy hamis? Ez a tartalom pontos vagy pontatlan? Ez a tartalom következetes vagy következetlen?

A Content Authenticity Initiative (CAI) technológiai vállalatok, médiaszervezetek és tudományos intézmények szövetsége, melynek célja a digitális médiában a származás és az ellenőrzés nyílt szabványának kidolgozása. A CAI azt javasolja, hogy a digitális médiafájlokba olyan metaadatokat ágyazzanak be, melyek a tartalom eredetére vonatkozó részleteket tartalmaznak, például a forrást, a létrehozás folyamatát, a tulajdonjogot és a terjesztést. A származás és az ellenőrzés egymást kiegészítő folyamatok, melyek segíthetnek a bizalom és az átláthatóság megteremtésében a mesterséges intelligenciával létrehozott médiában. Egy tartalom eredetének ismeretében könnyebben ellenőrizhetjük annak hitelességét. Egy tartalom hitelességének ellenőrzésével megbízhatóbban igazolhatjuk annak eredetét.

A generált tartalom eredetének nyomon követése

A proveniencia kifejezés a művészet világából származik, ahol egy műalkotás dokumentált történetére utal, például a műalkotás eredetére, tulajdonjogára és időbeli változásaira. A proveniencia segít(het) megállapítani egy műalkotás hitelességét, értékét és jelentőségét. A mesterséges intelligencia által generált médiával összefüggésben a proveniencia olyan információkra utal, amelyek egy digitális tartalom eredetét és történetét írják le, például a forrását, a létrehozási folyamatot, a tulajdonjogot és a terjesztést.

A proveniencia így valóban segít megállapítani a digitális tartalom hitelességét, integritását és hitelességét. Vegyünk például egy képet, amelyet egy gépi tanulási modell generál egy szöveges kérés alapján. Ez néhány példa a mesterséges intelligencia által generált tartalomhoz társítható provenienciaadatokra. A származási adatok azonban a tartalom típusától, céljától és kontextusától függően változhatnak.

A tartalom eredetének jelentősége

A mesterséges intelligencia által generált tartalom eredetének nyomon követése több okból is jelentős.

1. Először is, segíthet a tartalom hitelességének és integritásának ellenőrzésében. Ha tudjuk, honnan származik egy tartalom, hogyan jött létre, és ki a felelős érte, akkor megítélhetjük, hogy az eredeti vagy hamis, pontos vagy pontatlan, következetes vagy következetlen.
2. Másodszor, segíthet megvédeni a tartalom alkotóinak és tulajdonosainak jogait és érdekeit. Ha tudjuk, hogy ki a tartalom tulajdonosa, hogyan engedélyezték és hogyan terjesztették, tiszteletben tarthatjuk a szellemi tulajdonjogokat, elismerhetjük a hozzájárulásukat, és jutalmazhatjuk erőfeszítéseiket.
3. Harmadszor, segíthet a tartalom minőségének és értékének növelésében. Ha tudjuk, hogyan készült egy tartalom, milyen technikákat és eszközöket használtak, és milyen visszajelzéseket vagy értékeléseket kaptunk, jobban megérthetjük, értékelhetjük és élvezhetjük a tartalmat.
4. Negyedszer, ez segíthet a bizalom és az átláthatóság erősítésében a digitális világban. Ha tudjuk, hogy kivel lépünk kapcsolatba online, milyen információkat kapunk vagy osztunk meg online, és hogyan befolyásolunk vagy befolyásolunk online, őszintébb és etikusabb kapcsolatokat alakíthatunk ki más felhasználókkal és érdekelt felekkel.

Származási adatok rögzítése és megőrzése

A mesterséges intelligencia által generált tartalmak származási adatainak rögzítése és megőrzése nem triviális feladat. Olyan technikai és társadalmi megoldások kombinációjára van szükség, melyek képesek biztosítani, hogy a proveniencia-adatok pontosak, teljesek, következetesek, hozzáférhetőek és biztonságosak legyenek.

A proveniencia-adatok rögzítéséhez és megőrzéséhez használható technikák közül néhány:

• Metaadatok: Ezek a digitális adathordozókra vonatkozó leíró információkat tartalmaznak, mint például a cím, a szerző, a formátum és egyéb adatok, és olyan proveniencia-adatokat is tartalmazhatnak, mint a forrás és a tulajdonjog.
• Vízjelek: Ezek a látható vagy láthatatlan jelek a digitális adathordozókba ágyazva jelzik a származást vagy a tulajdonjogot, és tartalmazhatnak származási adatokat.
• Digitális aláírások: A digitális fájlok azonosságát és integritását megerősítő kriptográfiai módszerek, amelyek tartalmazhatnak származási adatokat, és nyilvános kulcsú titkosítással ellenőrizhetők.
• Blokklánc: Biztonságos, átlátható főkönyvi rendszer, mely megváltoztathatatlan nyilvántartásokat hoz létre. Digitális eszközök kezelésére és a származási adatok, például a mesterséges intelligencia által generált tartalmak létrehozási folyamatának és tulajdonjogának rögzítésére használják.

Ezek a módszerek, amelyek nem kizárólagosak és nem kimerítőek, külön-külön vagy kombinálva is alkalmazhatók az optimális eredmények elérése érdekében a mesterséges intelligencia által generált tartalom származási adatainak rögzítése és megőrzése során.

A hitelesség biztosítása

Az ellenőrzés az a folyamat, amelynek során ellenőrzik, hogy egy digitális tartalom hiteles-e vagy sem. Ez magában foglalja a tartalom pontosságának, konzisztenciájának és integritásának értékelését. Az ellenőrzés olyan kérdésekre ad választ, mint például: eredeti vagy másolt tartalomról van szó? Ez a tartalom valódi vagy hamis? Ez a tartalom pontos vagy pontatlan? Ez a tartalom következetes vagy következetlen?

Az ellenőrzés több okból is fontos:

1. Először is, segíthet megelőzni a félretájékoztatás és a megtévesztés terjedését a digitális világban. A félretájékoztatás és a megtévesztés súlyos következményekkel járhat az egyénekre, a szervezetekre és a társadalomra nézve. Hatással lehetnek a hiedelmeinkre, véleményünkre, döntéseinkre és cselekedeteinkre. Alááshatják az információforrásokba és a hatóságokba vetett bizalmunkat. Befolyásolhatják politikai, társadalmi és gazdasági eredményeinket is.
2. Másodszor, segíthet a tartalom létrehozói és tulajdonosai jogainak és érdekeinek védelmében. Az ellenőrzés segíthet a plágiumok, jogsértések és a digitális tartalmak manipulációjának felismerésében és leleplezésében. Az ellenőrzés segíthet az online létrehozott és megosztott tartalmakkal kapcsolatos elszámoltathatóság és felelősségvállalás érvényesítésében is.
3. Harmadszor, segíthet a tartalom minőségének és értékének javításában. Az ellenőrzés segíthet biztosítani, hogy az általunk fogyasztott tartalom megbízható, hiteles és megbízható legyen. Az ellenőrzés segíthet abban is, hogy jobban megértsük, értékeljük és élvezzük a tartalmat.

Hitelesség-értékelési megoldások

A hitelességértékelés folyamata különböző ellenőrzési módszerek alkalmazását jelenti a digitális tartalomra. Ezt a feladatot emberek, gépek vagy a kettő kombinációja végezheti, a megközelítést a tartalom jellegéhez, szándékához és a szituációs kontextushoz igazítva.

A hitelességértékelés során alkalmazott legfontosabb technikák a következők:

• Emberi megítélés: Ez az emberi érzékelés, megismerés és intuíció felhasználását jelenti a digitális tartalom hitelességének meghatározásához. Ez magában foglalja a különböző elemek, például a vizuális jelek, a nyelvi stílus, a kontextus és a forrás hitelességének értékelését. Emellett magában foglalhatja a megfelelő szakértelemmel rendelkező szakértőkkel vagy hatóságokkal való konzultációt is.
• Gépi tanulás: Ez a módszer mesterséges intelligencia-algoritmusok felhasználásával elemzi és kategorizálja a digitális tartalmat a különböző jellemzők és minták alapján. Az alkalmazott technikák a mélytanulástól a természetes nyelvi feldolgozáson át a számítógépes látásig terjednek. A gépi tanulás kiterjedt adathalmazok felhasználásával történő modellképzést is magában foglal, amelyek lehetnek címkézett vagy címkézetlen adathalmazok.
• Blokklánc technológia: A blokklánc biztonságos, átlátható elosztott főkönyvi rendszerként segíti a digitális tartalom hitelesítését. Ezt úgy éri el, hogy megváltoztathatatlan és ellenőrizhető nyilvántartásokat hoz létre, amelyek részletes származási információkat szolgáltatnak, beleértve a tartalom forrását, létrehozásának folyamatát, a tulajdonjog részleteit és a terjesztési előzményeket.

Ezek a módszerek a hitelesség értékelésének néhány elsődleges technikáját képviselik. Nem zárják ki egymást, és a hatékonyság optimalizálása érdekében más módszerekkel is kiegészíthetők vagy kiegészíthetők.

A blokklánc szerepe az ellenőrzésben

A blokklánc-technológia jelentős szerepet játszik a mesterséges intelligencia által generált média ellenőrzésében. A blokklánc technológia számos előnyt kínál az ellenőrzés hagyományos módszereivel, például a metaadatokkal, vízjelekkel és digitális aláírásokkal szemben. Ezen előnyök közül néhány:

• Decentralizáció: A blokklánc technológia egy egyenrangú hálózaton működik anélkül, hogy központi hatóságra vagy közvetítőre támaszkodna a tranzakciók vagy rekordok hitelesítésében. Ez csökkenti a korrupció, a cenzúra vagy a rosszindulatú szereplők általi manipuláció kockázatát.
• Változatlanság: A blokklánc technológia kriptográfiát használ olyan rekordok létrehozására, melyeket nem lehet megváltoztatni vagy manipulálni, miután felvették a főkönyvbe. Ez biztosítja, hogy a digitális tartalom származási információi idővel is sértetlenek és konzisztensek maradnak.
• Ellenőrizhetőség: A blokklánc technológia lehetővé teszi, hogy bárki, aki hozzáféréssel rendelkezik a főkönyvhöz, ellenőrizze a digitális tartalom hitelességét és integritását a hozzá tartozó rekordok ellenőrzésével. Ez növeli az átláthatóságot és az elszámoltathatóságot a digitális világban.

A blokklánc-technológia többféle módon használható a mesterséges intelligencia által generált média ellenőrzésére.

1. Az egyik mód a blokklánc-technológia használata egyedi digitális eszközök létrehozására és kezelésére a weben, olyan protokollok segítségével, mint például a Numbers Protocol.
2. Egy másik lehetőség a blokklánc technológia használata a mesterséges intelligencia által generált média felderítésére és közzétételére olyan platformok segítségével, mint a Sensity.
3. A harmadik lehetőség a blokklánc-technológia használata a mesterséges intelligencia által generált média tényellenőrzésére és korrekciójára olyan kezdeményezések segítségével, mint az MIT Technology Review.

A hagyományos és a blokklánc-megközelítések metszete

A mesterséges intelligencia által generált médiában a származás és az ellenőrzés elérése kihívást jelent, mivel a hagyományos módszerek nem megfelelőek vagy hatástalanok lehetnek. Az MIT Technology Review kiemelte, hogy az MI által generált tartalmak egyszerű vízjelekkel való ellátása nem elegendő az online bizalom megteremtéséhez, mivel egy rossz szándékú szereplő könnyen eltávolíthatja vagy megváltoztathatja a vízjeleket. Hasonlóképpen, a metaadatok is manipulálhatók, és a digitális aláírások sem védettek a hamisítás vagy kompromittálás ellen.

A digitális média eredetiségével kapcsolatban számos innovatív megoldást dolgoztak ki a hitelesség és az ellenőrzés kihívásainak kezelésére, különösen a mesterséges intelligencia által generált tartalmak esetében. Ezek a megoldások számos technikát alkalmaznak, a hagyományos módszerektől a fejlett technológiákig:

• Tartalomhitelesítési kezdeményezés (CAI): Az Adobe által kezdeményezett CAI célja a félretájékoztatás elleni küzdelem azáltal, hogy a digitális tartalmakhoz származási adatokat csatol, növelve a bizalmat és az átláthatóságot.
• A projekt eredete: Ez a kezdeményezés, melyet hírszervezetek és technológiai cégek koalíciója támogat, a híranyagok forrásának és előzményeinek digitális vízjelek segítségével történő ellenőrzésére összpontosít.
• WITNESS: Az emberi jogi összefüggésekre szakosodott WITNESS olyan technológiai eszközökön dolgozik, melyek segítenek a digitális tartalmak hitelességének ellenőrzésében.
• TruePic: A TruePic a kép- és videóhitelesítésre összpontosítva ellenőrzött rögzítési technológiát alkalmaz a tartalom hitelesítésére a létrehozás helyén.
• Everledger: A nagy értékű eszközök, például gyémántok eredetének nyomon követéséről ismert Everledger blokklánc-technológiát alkalmaz a digitális média nyomon követhetőségének és hitelességének biztosítására.
• Starling Framework for Data Integrity: Az USC Shoah Foundation és a Stanford által kifejlesztett keretrendszer blokkláncot és decentralizált webes protokollokat használ a digitális adatok integritásának fenntartására.
• Numbers Protocol: Megközelítésében különbözik a Numbers Protocol, mely blokklánc-alapú platformot kínál a digitális tartalmak hitelességének és integritásának megőrzésére. Többrétegű rendszert integrál, amely magában foglalja a tulajdonjogot, a tartalom származását, a készítői aláírást és a láncban lévő nyilvántartásokat.

A Numbers Protocol a digitális tartalom hitelességének és integritásának megőrzésére tervezett blokklánc-alapú platformként működik. Többrétegű tárolót biztosít, amelybe be van építve a tulajdonjog, a tartalom származása, az alkotó aláírása és a láncban lévő rekordok, ezáltal decentralizált hálózatot hoz létre. Ez a hálózat lehetővé teszi a tartalomkészítők és a fogyasztók számára a digitális anyagok hitelességének és tulajdonjogának ellenőrzését. Emellett átfogó eszköztárat kínál a hálózatán belüli képek és videók regisztrálásához és visszakereséséhez (Capture).

Technológiájának lényege, hogy minden egyes digitális eszközhöz egyedi azonosítót, úgynevezett létezésigazolást (Proof-of-Existence, PoE) hoz létre. A PoE kritikus információkat tartalmaz, többek között az eszköz hash-értékét, időbélyegzőjét és a digitális eszköz tulajdonosának személyazonosságát. A PoE megváltoztathatatlan és ellenőrizhető jellege biztosítja, hogy ellenáll a módosításoknak és a manipulációnak, és lehetővé teszi, hogy bármely fél egyszerűen ellenőrizze.

A rendszer azáltal, hogy rögzíti az olyan lényeges részleteket, mint az egyes digitális eszközök forrása, létrehozásának folyamata, tulajdonjoga és terjesztése, és biztonságosan rögzíti ezeket a származási adatokat a blokkláncon, elősegíti az átláthatóságot és az integritást. Ez a megközelítés biztosítja, hogy a digitális eszközök eredete és története nyomon követhető és ellenőrizhető legyen.

Valós világbéli alkalmazások

A digitális tartalom tulajdonjogának és származásának megváltoztathatatlan nyilvántartása jelentős. Az Egyesült Államok kereskedelmi képviselőjének 2023. évi 301-es különjelentése szerint a hamisítás és a kalózkodás jelentős pénzügyi veszteségeket okoz a jogtulajdonosoknak, a törvényes vállalkozásoknak és a kormányoknak, valamint veszélyezteti a fogyasztók egészségét és biztonságát, a magánéletet és a biztonságot.

A Numbers Protocol által biztosított megváltoztathatatlan származási adatok felhasználásával: az alkotók érvényesíthetik digitális eszközeik feletti tulajdonjogukat és jogaikat, és így megakadályozhatják a jogosulatlan felhasználást vagy terjesztést. A felhasználók a hiteles információk megbízható forrásának felajánlásával felvehetik a harcot a félretájékoztatás és a megtévesztés ellen a digitális világban. Az MIT tanulmánya szerint

a hamis hírek hatszor gyorsabban terjednek, mint a valós hírek az olyan platformokon, mint például az X (korábban Twitter).

Azáltal, hogy biztonságos és átlátható módszert kínál a digitális eszközök eredetének és tulajdonjogának nyomon követésére, növelheti az átláthatóságot és az elszámoltathatóságot különböző iparágakban, például a művészetben, a médiában, a reklámban és azon túl. A PwC felmérése szerint a fogyasztók 45%-a hajlandó felárat fizetni a blokkláncon keresztül hitelesített termékekért.

A mesterséges intelligencia által generált média korában a digitális hitelesség keresése sürgető kérdéssé vált. A mesterséges intelligencia által generált tartalmak térhódítása elmos(hat)ja a tény és a fikció közötti határt, ami hatékony módszereket követel meg a digitális média eredetének ellenőrzésére és nyomon követésére. Hangsúlyozni kell tehát a származás és az ellenőrzés fontosságát, a Content Authenticity Initiative (CAI) pedig élen jár a digitális médiafájlok metaadatainak beágyazására vonatkozó nyílt szabvány létrehozásában. Más Web3-megoldások mellett a Numbers Protocol innovatív megközelítést kínál a digitális hitelesség biztosítására, biztonságos és átlátható keretet biztosítva a digitális eszközök eredetének és tulajdonjogának nyomon követésére.

A proveniencia, azaz a mesterséges intelligencia által létrehozott tartalom eredetének és történetének nyilvántartása kulcsfontosságú a hitelesség igazolásához, az alkotói jogok védelméhez és a tartalom minőségének javításához. Az ellenőrzés, azaz a tartalom pontosságának és következetességének értékelése, a félretájékoztatás elleni küzdelem és a digitális média hitelességének biztosítása. A blokklánc technológia, nevezetesen a Numbers Protocol révén, kulcsszerepet játszik ezen az úton, mivel decentralizációt, megváltoztathatatlanságot és ellenőrizhetőséget kínál, így forradalmasítja a digitális tartalmakkal való interakciót és azok kezelését egy olyan világban, amelyet egyre inkább az MI által generált média alakít.