Generic selectors
Exact matches only
Search in title
Search in content
Post Type Selectors
post

Google AI-modellje olyan képességet fejlesztett ki, amelyre nem számítottak

MEGOSZTÁS

Sundar Pichai, a Google vezérigazgatója elmondta, hogy a vállalat szakértői a mesterséges intelligencia ezen aspektusát „fekete doboznak” nevezik.

Az aggodalmak azzal kapcsolatban, hogy a mesterséges intelligencia a programozók kívánságaitól függetlenül fejleszti a készségeket, régóta foglalkoztatja a tudósokat, etikusokat és sci-fi-írókat. A Google vezetőivel készült közelmúltbeli interjú tovább fokozhatja ezeket az aggodalmakat.

Hosszabban is írtunk a „fekete doboz”-jelenségről itt, amelyet érdemes elolvasni!

A CBS 60 Minutes című műsorában, április 16-án James Manyika, a Google technológiáért és társadalomért felelős alelnöke arról beszélt, hogyan tanította meg magát a cég egyik mesterségesintelligencia-rendszere bengáli nyelvre, annak ellenére, hogy nem volt kiképezve a nyelv ismeretére. „Felfedeztük, hogy nagyon kevés bengáli felszólítással most már az egész bengáli nyelvet le tudja fordítani” – mondta.

James M. Manyika zimbabwei-amerikai akadémikus, tanácsadó és üzleti vezető. A technológia és a gazdaság metszéspontjában végzett kutatásairól és ösztöndíjairól ismert, beleértve a mesterséges intelligenciát, a robotika automatizálását és a munka jövőjét.
James M. Manyika zimbabwei-amerikai akadémikus, tanácsadó és üzleti vezető. A technológia és a gazdaság metszéspontjában végzett kutatásairól és ösztöndíjairól ismert, beleértve a mesterséges intelligenciát, a robotika automatizálását és a munka jövőjét.

Sundar Pichai vezérigazgató megerősítette, hogy a mesterséges intelligencia rendszerek tanulásának és viselkedésének még mindig vannak olyan elemei, amelyek még mindig meglepik a szakértőket: „Van ennek egy aspektusa, amit mi nevezünk – a területen mindannyian „fekete doboznak” nevezzük. Nem érted teljesen. És nem igazán tudod megmondani, miért mondta ezt.” Pichai elmondta, hogy a cégnek van néhány ötlete, hogy miért lehet ez a helyzet, de további kutatásra van szüksége ahhoz, hogy teljes mértékben megértse, hogyan működik.

Scott Pelley, a CBS-től ezután megkérdőjelezte az indoklást egy olyan rendszer megnyitása mellett, amelyet a saját fejlesztői nem teljesen értenek, de Pichai így válaszolt: „Szerintem mi sem értjük teljesen az emberi elme működését.”

A Google gyógymódja a mesterséges intelligencia hallucinációjának problémájára

A mesterséges intelligencia fejlesztése szembetűnő hibákkal is járt, amelyek álhírekhez, mélyhamisításokhoz és fegyveresítéshez vezetnek, olykor olyan nagy bizalommal, amit az iparág „hallucinációnak” nevez. Arra a kérdésre, hogy a Google Bardja sok „hallucinációt” kap-e, Pichai így válaszolt: „Igen, tudod, ami várható volt. A területen még senki sem oldotta meg a hallucinációs problémákat. Minden modellnél ez a probléma.” Pichai szerint a gyógymód az, hogy „erősebb biztonsági rétegeket kell kifejleszteni, mielőtt megépítenénk, mielőtt nagyobb teljesítményű modelleket telepítenénk”.

Pichai régóta érvel a mesterséges intelligencia széles körű globális szabályozása mellett. Más technológiai vezetők, mint például a Twitter és a Tesla vezérigazgatója, Elon Musk, még az erősebb modellek fejlesztésének szüneteltetését is kérték . A kínai törvényhozók már új szabályokat fogalmaztak meg , míg Európában és az Egyesült Államokban a szabályozási folyamat még csak kialakulóban van.

IT EXPERTS-TECH LEADERS 2024 FELHŐ A JAVÁBÓL KONFERENCIA

PODCAST

ICT Global News

VIDEOGALÉRIA
FOTÓGALÉRIA

Legnépszerűbb cikkek

ICT Global News

Iratkozz fel a hírlevelünkre, hogy ne maradj le az IT legfontosabb híreiről!