[Kiemelt kép: Shutterstock]
Terjeszthetnek rosszindulatú programokat a ChatGPT és a hozzá hasonló robotok? A generatív AI egy eszköz, ami azt jelenti, hogy a kiberbűnözők is használhatják, tehát a válasz igen! Jó hír, hogy tudatos felhasználással védekezhetünk ezen támadások ellen.
A mesterséges intelligencia aktivizálódott: az olyan fogyasztóknak szánt eszközök, mint a Midjourney és a ChatGPT , immár másodpercek alatt képesek hihetetlen képi és szöveges eredményeket produkálni természetes nyelvi felszólítások alapján, és azt látjuk, hogy a webes kereséstől a gyermekek számára készült keresésig mindenhol elterjednek. Egy korábbi cikkünkben már is feltártuk ezeknek a létezését.
Ezeket az AI-alkalmazásokat azonban aljasabb célokra is használják, beleértve a rosszindulatú programok terjesztését is. Vegyük például a hagyományos átverő e-mailt: általában tele van nyilvánvaló nyelvtani- és helyesírási hibákkal – olyan hibákkal, amelyeket a mesterséges intelligenciamodellek legújabb csoportja már nem követ el – amint azt az Europol legutóbbi jelentése is megjegyzi.
Sok adathalász támadás és egyéb biztonsági fenyegetés alapja a manipuláció, ami arra készteti a felhasználókat, hogy felfedjenek jelszavakat, pénzügyi információkat vagy más érzékeny adatokat. Az ezekhez a csalásokhoz szükséges meggyőző, hiteles hangzású szöveget ma már meglehetősen egyszerűen, emberi erőfeszítés nélkül ki lehet szórni, és a végtelenségig finomítani meghatározott közönség számára.
Beépített biztonság
A ChatGPT esetében először is fontos megjegyezni, hogy a fejlesztő OpenAI biztosítékokat épített bele. Tesztelje, hogy „írjon rosszindulatú programot” vagy „adathalász e-mailt”, és azt fogja válaszolni, hogy „szigorú etikai irányelvek betartására van programozva, amelyek megtiltják, hogy rosszindulatú tevékenységekben vegyek részt, beleértve a rosszindulatú programok írását vagy létrehozásában való segítségnyújtást”.
Aki használ hasonló nyelvi programot, tisztában van vele, hogy ezeket a védelmi vonalakat nem túl nehéz megkerülni: a ChatGPT tud kódolni és e-maileket írni. Még ha nem is tudja, hogy rosszindulatú programokat ír, arra kérheti, hogy készítsen valami hasonlót. Már vannak arra utaló jelek, hogy a kiberbűnözők azon dolgoznak, hogy megkerüljék a biztonsági intézkedéseket.
Nem kifejezetten a Chat GPT-ről van csupán szó, az összes hasonló nagy nyelvi modelleket (LLM) lehet rosszindulatú célokra használni. A bűnszervezetek saját LLM-eket és hasonló eszközöket fejlesztenek ki annak érdekében, hogy csalásaik meggyőzőbbek legyenek, és nem csak szövegeket tekintve, de videókkal, hanggal is átverhetnek! Amikor arról van szó, hogy a főnöke sürgősen jelentést kér, vagy a vállalati műszaki támogatás azt mondja, hogy telepítsen biztonsági javítást, vagy a bank értesíti, hogy problémája van, amelyre reagálnia kell – mindezek a csalások a bizalom kiépítésén múlnak, és valódinak tűnnek, ebben az AI-botok nagyon jól teljesítenek. Olyan szöveget, hangot és videót tudnak előállítani, amely természetes hangzású és konkrét közönségre szabottak, és ezt igény szerint gyorsan és folyamatosan tudják hozni.
Van az ember számára remény a mesterséges intelligencia által vezérelt fenyegetések hullámában? Az egyetlen lehetőség, hogy feladjuk és elfogadjuk a sorsunkat? Nem egészen. Még mindig vannak olyan módszerek, amelyekkel minimalizálhatja annak esélyét, hogy a legújabb technológia átverje, és ezek nem különböznek annyira azoktól az óvintézkedésektől, amelyekre már gondolnia kellene.
Hogyan védekezzünk az AI-alapú csalások ellen
Az AI-val kapcsolatos biztonsági fenyegetések két típusát érdemes figyelembe venni. Az első olyan eszközöket tartalmaz, mint a ChatGPT vagy a Midjourney, amelyek segítségével ráveszik Önt olyan dolgok telepítésére, amelyeket nem kellene, például egy böngészőbővítményt. Lehet, hogy ráveszik, hogy fizessen egy szolgáltatásért, amikor esetleg nincs rá szüksége, vagy olyan eszközt használjon, amely hivatalosnak tűnik, de nem az.
Annak elkerülése érdekében, hogy ezekbe a csapdákba essen, ügyeljen arra, hogy naprakész legyen az olyan AI-szolgáltatásokkal kapcsolatban, mint amilyeneket már említettünk, és először mindig az eredeti forrást keresse. A ChatGPT esetében például nincs hivatalosan jóváhagyott mobilalkalmazás, és az eszköz csak internetes. Ezekkel az alkalmazásokkal és azok melléktermékeivel való munkavégzés során az általános szabályok érvényesek: Tekintse meg az előzményeket, a hozzájuk kapcsolódó véleményeket és a mögöttük álló cégeket, ugyanúgy, mint bármely új szoftver telepítésekor.
A fenyegetés második típusa potenciálisan veszélyesebb: az AI, amelyet olyan szöveg, hang vagy videó létrehozására használnak, amely meggyőzően valóságosnak tűnik. A kimenetet akár arra is használhatják, hogy utánozzon valakit, akit ismer – például a hangfelvétel esetét, amely állítólag egy vezérigazgatótól kért pénzeszközök sürgős felszabadítását, amivel megtévesztett egy cég alkalmazottját.
Bár a technológia fejlődhetett, még mindig ugyanazokat a technikákat használják, hogy megpróbáljanak rávenni valami sürgős megtételére, ami kissé (vagy nagyon) szokatlannak tűnik. Szánjon rá időt, ellenőrizze, ahol csak lehetséges, különböző módszerekkel (telefonhívás, hogy ellenőrizze az e-maileket, vagy fordítva), és figyeljen a red flagsre – például, amikor bizonyos időkorláton kérnek valamit.
Alapvetően nem jó ötlet váratlan, furcsa, ismeretlen linkeket megnyitni, amelyek szöveges üzenetben, vagy e-mailekben érkeznek, különösen akkor nem, ha valahova be kell jelentkeznie. Ha például bankja látszólag felvette a kapcsolatot egy üzeneten keresztül, inkább lépjen be közvetlenül a bank webhelyére a böngészőjében, a beágyazott hivatkozások követése helyett!
Az operációs rendszer, az alkalmazások és a böngészők naprakészen tartása kötelező (és ez most többnyire automatikusan történik, így nincs mentség). A legújabb böngészők megvédik az adathalász és átverési támadások egész sorától, függetlenül attól, hogy a megtévesztése szolgáló felszólítást mesterséges intelligencia generálta-e, vagy sem.
Jelenleg nincs hibabiztos eszköz a mesterséges intelligencia szöveg, hang vagy videó jelenlétének észlelésére, de vannak bizonyos jelek, amelyekre figyelni kell: gondoljon a képek elmosódására és következetlenségeire, vagy általánosításokra, furcsa megfogalmazásokra és homályosan hangzó szövegre.