Eric Schmidt, aki egy évtizeden át irányította a Google-t, a múlt héten egy konferencián arról beszélt, hogy a mesterségesintelligenciaI-modellek sebezhetők lehetnek. Ha rossz kezekbe kerülnek…
Bármit meg lehet hackelni
Bizonyítható, hogy akár zárt, akár nyílt modelleket is meg lehet hackelni – jelentette ki Schmidt a londoni Sifted Summit konferencián.
A beépített védelmi korlátokat el lehet távolítani – idézi Schmidt véleményét az IndianExpress.
“Minden nagyvállalat igyekszik ellehetetleníteni, hogy ezek a modellek ilyen kérdésekre választ adjanak” – állítja a Google volt vezérigazgatója.
Például arra, ha egy felhasználó például azt kérdezné az MI-től, hogyan lehet megölni valakit.
Schmidt szerint bizonyítékok vannak arra, hogy ezeket a kérdéseket vissza lehet fejteni.
Potenciális kiberfegyverek
Az MI-modellek és -ügynökök egyre jobbak a kódírásban, a logikai feladatokban és a hibajavításban. Ugyanakkor sérülékenyek a hackelés és a jailbreak-támadások esetén.
Szakértők szerint valószínű, hogy az MI-modellek a jövőben potenciális kiberfegyverré válhatnak. Mivel a generatív MI-rendszerek tanulás és adaptáció révén képesek magukat átírni, komoly kockázatot jelenthetnek.
Főként azért, mert a rosszindulatú programok villámgyorsan terjedjenek egy kódbázison belül.
Egyetlen gombnyomással hatalmas mennyiségű káros kód szabadulhat el, ha nincsenek megfelelő biztonsági óvintézkedések.
Már mások is figyelmeztettek
Nem ez az első alkalom, hogy egy ismert techvezető figyelmeztetett az MI veszélyeire. Az MI-modellek ugyanis hackerek célpontjává válhatnak, sőt, akár ártalmas akciókra is betaníthatók, ha rossz kezekbe kerülnek.
Néhány éve Geoffrey Hinton, akit az MI keresztapjaként is emlegetnek, szintén felhívta a figyelmet a chatbotokban rejlő kockázatokra.
Hinton szerint a chatbotok jelenleg nem intelligensebbek nálunk, de hamarosan azok lehetnek. Mindez oda vezethet, hogy az MI-rendszerek saját célokat alakítanak ki, például nagyobb hatalomra törnek.
A szakértő már 2023-ban úgy nyilatkozott: az intelligencia, amelyet fejlesztünk, nagyon különbözik attól, amivel mi rendelkezünk.
Véleménye szerint “mi biológiai rendszerek vagyunk, ezek pedig digitális rendszerek”.
A különbség a súlykészletben rejlik
A különbség az, hogy a digitális rendszereknél rengeteg másolat létezhet ugyanarról a “súlykészletről” – más szóval “világmodellről”.
A kockázatok ellenére Schmidt optimista az MI jövőjét illetően. Véleménye szerint a technológia ráadásul “alulértékelt”, noha hatalmas gazdasági lehetőségeket rejt.
“Erről két könyvet írtam Henry Kissingerrel a halála előtt. Arra a következtetésre jutottunk, hogy egy idegen intelligencia megjelenése – ami nem teljesen emberi, de nagyjából a mi irányításunk alatt áll – óriási dolog az emberiség számára. Az emberek ugyanis hozzászoktak, hogy a tápláléklánc csúcsán állnak” – fogalmazott Schmidt.
Az egykori Google-vezér szerint beigazolódott a tézis: ezeknek a rendszereknek a képességei idővel messze felülmúlják majd az emberi teljesítményt.
Az, hogy a ChatGPT két hónap alatt százmillió felhasználót szerez, rendkívüli. Megmutatja, milyen hatalmas ereje van a technológiának. Schmidt szerint inkább alulértékelt, mint túlértékelt.
