Az aggodalmak azzal kapcsolatban, hogy a mesterséges intelligencia a programozók kívánságaitól függetlenül fejleszti a készségeket, régóta foglalkoztatja a tudósokat, etikusokat és sci-fi-írókat. A Google vezetőivel készült közelmúltbeli interjú tovább fokozhatja ezeket az aggodalmakat.
Hosszabban is írtunk a „fekete doboz”-jelenségről itt, amelyet érdemes elolvasni!
A CBS 60 Minutes című műsorában, április 16-án James Manyika, a Google technológiáért és társadalomért felelős alelnöke arról beszélt, hogyan tanította meg magát a cég egyik mesterségesintelligencia-rendszere bengáli nyelvre, annak ellenére, hogy nem volt kiképezve a nyelv ismeretére. „Felfedeztük, hogy nagyon kevés bengáli felszólítással most már az egész bengáli nyelvet le tudja fordítani” – mondta.
Sundar Pichai vezérigazgató megerősítette, hogy a mesterséges intelligencia rendszerek tanulásának és viselkedésének még mindig vannak olyan elemei, amelyek még mindig meglepik a szakértőket: „Van ennek egy aspektusa, amit mi nevezünk – a területen mindannyian „fekete doboznak” nevezzük. Nem érted teljesen. És nem igazán tudod megmondani, miért mondta ezt.” Pichai elmondta, hogy a cégnek van néhány ötlete, hogy miért lehet ez a helyzet, de további kutatásra van szüksége ahhoz, hogy teljes mértékben megértse, hogyan működik.
Scott Pelley, a CBS-től ezután megkérdőjelezte az indoklást egy olyan rendszer megnyitása mellett, amelyet a saját fejlesztői nem teljesen értenek, de Pichai így válaszolt: „Szerintem mi sem értjük teljesen az emberi elme működését.”
A Google gyógymódja a mesterséges intelligencia hallucinációjának problémájára
A mesterséges intelligencia fejlesztése szembetűnő hibákkal is járt, amelyek álhírekhez, mélyhamisításokhoz és fegyveresítéshez vezetnek, olykor olyan nagy bizalommal, amit az iparág „hallucinációnak” nevez. Arra a kérdésre, hogy a Google Bardja sok „hallucinációt” kap-e, Pichai így válaszolt: „Igen, tudod, ami várható volt. A területen még senki sem oldotta meg a hallucinációs problémákat. Minden modellnél ez a probléma.” Pichai szerint a gyógymód az, hogy „erősebb biztonsági rétegeket kell kifejleszteni, mielőtt megépítenénk, mielőtt nagyobb teljesítményű modelleket telepítenénk”.
Pichai régóta érvel a mesterséges intelligencia széles körű globális szabályozása mellett. Más technológiai vezetők, mint például a Twitter és a Tesla vezérigazgatója, Elon Musk, még az erősebb modellek fejlesztésének szüneteltetését is kérték . A kínai törvényhozók már új szabályokat fogalmaztak meg , míg Európában és az Egyesült Államokban a szabályozási folyamat még csak kialakulóban van.
