Bengio szerint az MI-gépek “sokkal okosabbakká válhatnak nálunk”, és az emberekben kialakulhatnak bizonyos önfenntartási célok.
A gépek átvehetik az uralmat
A Montreali Egyetem professzora 2018-ban Geoffrey Hintonnal és Yann LeCunnal együtt elnyerte az A.M. Turing-díjat.
Bengio a The Wall Street Journalnak elmondta: az MI-termékek akár képessé válhatnak megtéveszteni a felhasználóikat saját céljaik érdekében.
“Ha olyan gépeket építünk, amelyek sokkal okosabbak nálunk, és saját fennmaradási céljaik vannak, az veszélyes” – mondta Bengio a WSJ-nek.
A professzor attól tart, hogy létrehozunk az emberiség számára egy versenytársat, amely okosabb nála. Az embereket pedig meggyőzéssel, fenyegetéssel, a közvélemény manipulálásával befolyásolják.
Az optimista torzítás veszélye
Bengio példája szerint egy MI-gép támogathatná egy olyan vírus létrehozását, amely globális terrortámadásként új járványokat indíthat el.
A Montreali Egyetem professzora olyan katasztrofális eseményeket vizionál, mint az emberiség kihalása.
Kevésbé radikális szcenáriónak számít például a demokrácia lebontása.
Bengio szerint a cégeknél is sokan aggódnak amiatt, hogy olyan vállalatnál dolgoznak, amely a határokat próbálja kitolni.
A megbízhatóság garanciája
Emiatt olyan független, harmadik felekre lenne szükség, akik felülvizsgálják az MI-cégek belső biztonsági mechanizmusait.
A kormányoknak is ezt kellene megkövetelniük – idézi Bengiót a The Independent. Ellenkező esetben a következő öt-tíz éven belül elkerülhetetlenné válhatnak a komoly veszélyek.
Ugyanakkor a professzor szerint az sem zárható ki, hogy minderre nem öt-tíz, csupán három évünk van.
Az amerikai kormány mindeközben úgy tűnik, lebontja azokat a szabályozási korlátokat, amelyek akadályoznák az MI-termékek fejlesztését. Ehelyett arra ösztönzi a cégeket, hogy olyan termékeket tervezzenek, amelyek tükrözik a saját ideológiai terveit egy több milliárd dolláros fegyverkezési verseny részeként.
Az ideológiai igazodás
A verseny ugyanis az MI-dominanciáért folyik.
Júliusban Donald Trump aláírt egy rendeletet, amely egy kormányzati stratégiának a része. Ennek célja a “globális dominancia elérése az MI területén”.
Az intézkedéssel a “woke MI-t” akarják betiltani a kormányzaton belül. Ezzel utasítják a szövetségi ügynökségeket, hogy tagadják meg a szerződéseket azoktól a vállalatoktól, amelyek nem igazodnak az adminisztráció “igazságkeresésről” és “ideológiai semlegességről” alkotott definíciójához.
A rendelet valódi arca
A rendelet konkrétan a nagy nyelvi modelleket célozza meg. A szövetségi ügynökségek utasítást kaptak arra, hogy csak olyan LLM-eket vásárolhatnak, amelyek nem “kódolják szándékosan a pártos vagy ideológiai ítéleteket”.
Hivatalba lépése után nem sokkal Trump bejelentett egy 500 milliárd dolláros vállalkozást az OpenAI-jal, a Softbankkal és az Oracle-lel az MI-infrastruktúra területén. Továbbá támogatta a chipgyártó NVIDIA terveit, hogy MI-szuperszámítógépeket építsen az Egyesült Államokban.
A szövetségi ügynökségek olyan eszközöket halmoznak fel egy “kiterjedt hazai megfigyelő rendszerhez”, amely MI-termékeket vet be, hogy felgyorsítsák azt, amit a kritikusok technokrata autoriter agendának neveztek.
Az adminisztráció a szellemi tulajdon védelmét is célkeresztbe vette, amely óriási mennyiségű, az MI-termékeket megalapozó tartalmat érint. A Szerzői Jogi Hivatal vezetőjét kirúgták néhány nappal azután, hogy az iroda közzétett egy terjedelmes jelentést az MI-ről. Ez ugyanis kérdéseket vetett fel a technológia által felhasznált szerzői jogi anyagokkal kapcsolatban.
(Kép: Unsplash/Robynne O)
