A generatív mesterséges intelligencia térhódításának rengeteg az előnye, de vannak hátrányai is. Elsősorban a mélyhamisítványok (deepfakes) terjedésével brutális mértékben megnőtt dezinformáció, de nemcsak a kamuképek, kamuvideók vagy a chatbotok valóságtól elrugaszkodott hallucinációi borzolják a felhasználói, fejlesztői kedélyeket.
Sokan például attól félnek, hogy a keresőmotorok csődöt mondanak, másfajta modellre lenne szükség, hogy a mesterséges intelligencia meg tudja emészteni a más mesterséges intelligenciák által generált tartalmakat. Maga a mostani keresőmotor-modell omolhat össze, ha a találatok között mind jobban elszaporodnak a levélszemét-minőségű és ugyanolyan hasznavehetetlen szintetikus adatok.
Gondban a Google
A változás főként a földkerekség hosszú ideje elsőszámú keresőjét, a mindannyiunk által használt Google-t érintheti. Jon Gillham, az MI-tartalomdetektáló Originality.ai platform alapító-vezérigazgatója elmondta, hogy a keresőóriásnak komoly problémát okoz az MI által generált szemét, spam kiszűrése a találatok közül. Gillham és munkatársai havi jelentéseket készítenek arról, hogy a gépi tartalom milyen mértékben látható a Google keresési eredményeiben. Az Originality.ai március végi anyaga alapján
az MI-generált spam a keresési eredmények mintegy tíz százalékát teszi ki,
ami önmagában is hatalmas mennyiség. Akkor meg pláne az, ha figyelembe vesszük, hogy ez még csak a kezdet, mert a generatív mesterséges intelligencia ChatGPT formájában történt 2022. novemberi berobbanása óta még csak szűk másfél év telt el. Azaz a jövőben jócskán felerősödhet ez a trend. A kör be is zárul: ez a veszélyforrás szintén dezinformáció, csak a dezinformáció eddig keveset kutatott, elemzett formája.
Védekezési opciók
A Google eddig is mindent megtett a nem kívánt tartalmak blokkolásáért, és a tíz százalék is úgy jött ki, hogy a techóriás csomó online szemetet terjesztő tartalmat, azokat generáló honlapokat kiiktatott. Elég egyértelmű, hogy ezeket az MI spam-eket senki nem küldi a Google-ra, nem állnak mögöttük rosszindulatú hackerek. Gillham szerint nem minden MI által generált tartalom spam, de jelenleg minden spam valamilyen mesterséges intelligencia műve. A Google manuálisan és algoritmusokkal is küzd ellene, próbál győzni, egyelőre viszont nem áll nyerésre. Jelenleg inkább úgy tűnik, hogy elveszíti a harcot.
Gillham cégének adatkészletek ellenőrzésére, a bennük lévő szintetikus tartalmak azonosítására is használt tartalomfelismerő technológiája segíthet, de a problémát nem oldja meg teljesen.
(Kiemelt kép: Google)
