Az elmúlt évtized robbanásszerű technológiai fejlődése, illetve a mesterséges intelligencia (AI) „okosodása” egyre több kaput nyit meg az ipar, a gazdaság, az üzleti élet, ezen belül az innováció területén. Azonban az intelligens algoritmusok beágyazodása miatt egyre több etikai, társadalmi és jogi kérdés merült fel. Keretekre és korlátokra volt szükség.
Az Európai Unió digitális stratégiája részeként azért kívánja szabályozni a mesterséges intelligenciát, hogy jobb és igazságosabb feltételeket biztosítson az innovatív technológia fejlesztéséhez és használatához. A mesterséges intelligencia hasznos és számos segítséget nyújthat, többek között az egészségügyi ellátás modernizálásában, a biztonságosabb és tisztább közlekedés megvalósításában, a hatékonyabb gyártásban, valamint az olcsóbb és fenntarthatóbb energia-használatban. Sok még a kérdés, ezért a mesterséges intelligencia törvénytervezetéről, annak hátteréről, illetve várható hatásairól a Budapesti Műszaki és Gazdaságtudományi Egyetem Villamosmérnöki és Informatikai Karának előadói workshopot tartottak .
Még mindig az ember áll a középpontban
A mesterséges intelligencia emberközpontú megközelítése arra törekszik, hogy a társadalmi és személyi (etikai, erkölcsi, jogi, biztonsági, megbízhatósági, értelmezhetőségi, esélyegyenlőségi) szempontok, illetve értékek központi szerepet kapjanak az MI-rendszerek fejlesztése, telepítése, használata és felügyelete során. Ennek következménye, hogy 2021 áprilisában az Európai Bizottság javaslatot tett a mesterséges intelligencia első uniós szabályozási keretére. A mesterséges intelligencia használatát az unióban a mesterséges intelligencia törvény ((Artificial Intelligence Act – AIA), a világ első átfogó AI-törvénye fogja szabályozni. A témáról itt írtunk bővebben.
A törvényben a különböző alkalmazásokban használható mesterséges intelligencia rendszereket elemzik és osztályozzák aszerint, hogy milyen kockázatot jelentenek a felhasználók számára. A törvényalkotók arra törekednek, hogy az EU-ban használt mesterséges intelligencia-rendszerek biztonságosak, technológia-semlegesek, átláthatóak, nyomon követhetőek, megkülönböztetéstől mentesek és környezetbarátok legyenek. Az AI-rendszereket automatizálás helyett pedig továbbra is az ember általi működtetésre bízzák.
Kockázati szintek
Elfogadhatatlan kockázat: az elfogadhatatlan kockázatú mesterséges intelligencia-rendszerek olyan rendszerek, amelyek veszélyt jelentenek az emberekre, és betiltásra kerülnek. Például:
- Emberek vagy meghatározott veszélyeztetett csoportok kognitív viselkedési manipulációja, például hangvezérelt játékok, amelyek veszélyes viselkedésre ösztönzik a gyermekeket.
- Társadalmi pontozás, azaz emberek osztályozása viselkedés, társadalmi-gazdasági státusz vagy személyes jellemzők alapján.
- Valós idejű és távoli biometrikus azonosítási rendszerek, például arcfelismerés.
Kivételek: például a „postai” távoli biometrikus azonosítási rendszerek, ahol az azonosítás jelentős késedelem után történik, súlyos bűncselekményt elkövetők üldözésére engedélyezett, de csak a bíróság jóváhagyása után.
Nagy kockázat: a biztonságot vagy az alapvető jogokat negatívan befolyásoló mesterséges intelligencia rendszerek magas kockázatúnak minősülnek, és két kategóriába sorolhatók:
I. AI-rendszerek, amelyeket az EU termékbiztonsági jogszabályai hatálya alá tartozó termékekben használnak. Ide tartoznak a játékok, a repülők, az autók, az orvosi eszközök és a felvonók.
II. Nyolc speciális területre tartozó mesterséges intelligencia-rendszerek, amelyeket regisztrálni kell egy uniós adatbázisban:
- Természetes személyek biometrikus azonosítása és kategorizálása.
- Kritikus infrastruktúra kezelése és üzemeltetése.
- Oktatás és szakképzés.
- Foglalkoztatás, munkavállalók irányítása és az önfoglalkoztatáshoz való hozzáférés.
- Hozzáférés az alapvető magánszolgáltatásokhoz, valamint a közszolgáltatásokhoz és előnyökhöz, illetve azok élvezete.
- Bűnüldözés.
- Migráció, menekültügy és határellenőrzés kezelése.
- Segítségnyújtás a jogértelmezésben és a jogalkalmazásban.
- Valamennyi nagy kockázatú mesterséges intelligencia-rendszert a forgalomba hozatal előtt, valamint az egész életciklusa során értékelnek.
Generatív AI: ChatGPT-hez hasonlóan a generatív AI-nak meg kell felelnie az átláthatósági követelményeknek:
- Felfedve, hogy a tartalmat mesterséges intelligencia hozta létre.
- A modell megtervezése annak megakadályozására, hogy illegális tartalmat generáljon.
- A képzéshez felhasznált szerzői joggal védett adatok összefoglalóinak közzététele.
Korlátozott kockázat: a korlátozott kockázatú AI-rendszereknek meg kell felelniük a minimális átláthatósági követelményeknek, amelyek lehetővé teszik a felhasználók számára, hogy megalapozott döntéseket hozzanak. Az alkalmazásokkal való interakció után a felhasználó eldöntheti, hogy szeretné-e tovább használni. A felhasználóknak fel kell hívni a figyelmüket arra, amikor AI-vel kommunikálnak. Ide tartoznak az olyan mesterséges intelligencia rendszerek, amelyek kép-, hang- vagy videótartalmat generálnak vagy manipulálnak.
GDPR vs AI Act
Az Európa Tanács a törvény előkészítése során nem talált kapcsolatot a GDPR adatvédelmi törvény és a mesterséges intelligencia között, csupán néhány halvány utalás volt felfedezhető a személyes adatok védelmére vonatkozóan, ezért helyezett az AI-törvény alkotásánál erősebb hangsúlyt az adatvédelmi irányelvek kidolgozására, a megfelelőség (complience) betartására, az átláthatóságra, a magatartási kódexre, illetve a szabályozási folyamatokra, hangzott el a BME Workshopon.
