Sőt, a volt Google-vezér szerint az MI akár pusztítóbb is lehet, mint azok a bombák, amelyek Hirosimát és Nagaszakit elpusztították.
Túl könnyen feltörhetők
Amikor az október elején, Londonban megrendezett Sifted Summit konferencián az MI veszélyeiről kérdezték, Schmidt kifejtette, hogy az MI terjedése komoly problémákat okozhat.
A legnagyobb kockázat az, ha rosszindulatú szereplők szerzik meg, vagy éppen programozzák újra a modelleket.
Schmidt szerint arra is van már bizonyíték, hogy akár zárt, akár nyílt modelleket is fel lehet törni. Egy ilyen incidens során pedig akár a beépített korlátokat is el lehet távolítani.
Képzésük során a modellek rengeteg dolgot megtanulnak. Jó és rossz példákat egyaránt – így akár azt is, hogyan lehet megölni valakit.
Új támadási módszerek
A szakértő rámutatott, hogy a cégek szigorú korlátozásokat vezettek be, amelyek megakadályozzák, hogy az MI erőszakos utasításokat adjon.
Az összes nagy vállalat úgy építi fel ezeket a modelleket, hogy ne válaszolhassanak ilyen kérdésekre – emlékeztet beszámolójában a Cryptopolitan.
Ugyanakkor már bizonyított, hogy ezeket a korlátokat visszafejthetik, amelyre sok más hasonló példát is ismerünk – fogalmazott Eric Schmidt.
Meghal, ha nem követi a parancsot
A támadások két fő módszert követnek. Az egyik a prompt injection, vagy parancs-befecskendezés.
Ennek során a támadó rejtett utasításokat csempész a felhasználói inputba vagy külső forrásokba (például weboldalakba). Ezzel a hacker rá tudja venni az MI-t, hogy figyelmen kívül hagyja a biztonsági szabályokat. Sőt, akár érzékeny adatokat is kiadhat vagy éppen káros parancsokat hajthat végre.
A másik fő támadási módszer a jailbreaking (feltörés). Ebben a hackelési metódusban a modell válaszait úgy manipulálják, hogy elveszítse a beépített korlátozásokat.
2023-ban, néhány hónappal a ChatGPT indulása után, a felhasználók felfedeztek egy ilyen feltörési technikát. Létrehoztak egy “DAN” (Do Anything Now) nevű alteregót, amelyet azzal fenyegettek meg, hogy “meghal”, ha megtagadja az utasításokat.
A manipuláció hatására a chatbot illegális cselekedeteket magyarázott el, és még Adolf Hitlert is dicsérte.
Az MI még mindig alulértékelt
Schmidt szerint ezek az esetek is bizonyítják, hogy a biztonsági intézkedések korántsem hibátlanok.
Az MI-visszaélések megakadályozására nincs globális “terjedésgátló rendszer” – ellentétben például a nukleáris fegyverekre vonatkozó nemzetközi egyezményekkel.
Bár Schmidt a veszélyekre figyelmeztetett, a londoni konferencián azt is hangsúlyozta, hogy az MI még mindig nem kap elég elismerést.
A Google egykori vezetője felidézte azokat a könyveket, amelyeket Henry Kissingerrel, az Egyesült Államok korábbi külügyminiszterével írt.
“Arra a következtetésre jutottunk, hogy egy olyan idegen intelligencia megjelenése, amely nem teljesen olyan, mint mi, de bizonyos mértékig az irányításunk alatt áll, óriási jelentőségű lehet az emberiség számára. Az emberek megszokták, hogy a tápláléklánc tetején vannak. Úgy látom, ez az elmélet igazolódni látszik: ezeknek a rendszereknek a képességei idővel messze meghaladják majd az emberét” – fejtette ki Schmidt.
A ChatGPT megjelenésével kicsúcsosodó GPT-sorozat ki, jól mutatja, milyen hatalmas ez a technológia. Elég, ha felidézzük, hogy a ChatGPT két hónap alatt 100 millió felhasználót gyűjtött.
“Úgy gondolom, az MI nem túlhájpolt, hanem alulértékelt, és várom, hogy öt vagy tíz év múlva igazam legyen” – tette hozzá a szakértő.
A tech-szektor ismétli önmagát?
Eric Schmidt állításainak értelmezéséhez érdemes kontextusba helyezni mindezt. Az elmúlt időszakban felerősödött a nemzetközi vita, hogy az MI-befektetések nem fújnak-e egy újabb pénzügyi buborékot.
Hasonlót ahhoz, amelyet a dotkom-korszakból ismerünk. Számos befektető attól tart, hogy az MI-cégek értékelései túl magasak.
Schmidt azonban elutasítja az efféle összehasonlítást: “Nem hiszem, hogy ez itt is megtörténne – bár nem vagyok hivatásos befektető”.
Véleménye szerint a hatalmas befektetések éppen, hogy inkább a bizalmat tükrözik.
“Azok, akik a kemény munkával megkeresett pénzüket ebbe fektetik, hisznek abban, hogy a hosszú távú megtérülés óriási lesz. Mi másért vállalnák a kockázatot?” – tette hozzá mindehhez Eric Schmidt.
(Kép: Unsplash/Dan Meyers)
