(Képek: Pixabay, Dries Buytaert)
A generatív mesterséges intelligencia (MI) gyors fejlődésére reagálva, az 1947-ben alapított, a világ legnagyobb tudományos és oktatási számítástechnikai társasága, az amerikai székhelyű, nemzetközi ACM (Association for Computing Machinery) Technológiaszabályozási Tanácsa (TPC) kidolgozta alapelveit az MI fejlesztéséről, telepítéséről és használatáról.
Európai és amerikai számítástudományi szakemberek technikai ismereteire, tapasztalataira hagyatkozva, nyolc alapelvet fogalmaztak meg. A hónapok óta tartó szabályozási lázban, a generatív és más MI-technológiákkal kapcsolatos igazságos, pontos és mindenki számára előnyös döntéshozást akarják erősíteni velük. Az új anyag egy 2022-es, az algoritmikus rendszerek felelős alkalmazásáról szóló dokumentumon alapul, abból indultak ki.
Az alapelvek megfogalmazásával arra az álláspontra reagálnak, mely szerint az egyre meggyőzőbb generatív MI fejlődésének tempójával, széleskörű alkalmazásaival párhuzamosan nő a technológia veszélye, és az esetleges negatív hatásokat időben meg kell előzni. E gondolat jegyében alaposabban kell eljárni kutatásnál, fejlesztésnél, üzemeltetésnél és használatnál. Azért van szükség új alapelvekre, mert a meglévő modellek már nem elegendők a károk elhárítására.
Az alapelvek két csoportba sorolhatók: az első négy speciálisan a generatív MI-re vonatkozik, a többi négy korábbi irányelvek általánosabb adaptálása a mesterséges intelligenciára.
Alapelvek a generatív MI-hez
Az anyag a telepítéshez és a használathoz javasolt korlátozásokkal, útmutatásokkal kezdődik. Az összes érdekelt féllel folytatott konzultációt követően, a vonatkozó törvényeket és szabályozást felülírt formájukban kell alkalmazni. Ha fennáll a kár kockázata, akkor a generatív MI-t a veszteségek minimalizálását érvényesítve kell telepíteni. Egyetlen magas kockázati szintű MI sem működhet világos és megfelelő biztosítékok nélkül, mindig kell embernek lennie ezekben a rendszerekben. Az érintetteknek konszenzusra kell jutniuk abban a döntésben, hogy az előnyök sokkal nagyobbak, mint a negatív következmények. Célszerű meghatározni a kockázatszintek hierarchiáját, hogy mi elfogadhatatlan a legfelsőbb, és mi a minimális veszély a legalacsonyabb szinten.
A tulajdonlás, a tulajdonjog kérdése ingoványos terület. A szellemi tulajdonjog és a szabályozás egyelőre nem veszi megfelelően figyelembe a generatív MI-k felépítésének, működésének szempontjait.
Az adatkezelés sem egyértelmű még. Generatív MI-rendszerek esetében is biztosítani kell: tisztában legyünk, ha személyes adatainkat használják gyakoroltatásra vagy az információ-előállítás egyszerűsítésére.
A javíthatóság szintén alapelv. Generatív MI-k szolgáltatóinak nyilvános adattárakat kell létesíteniük és karbantartaniuk. Ezekben a tárakban nyilván tartják a rendszer által elkövetett hibákat, és a javításokat is.
Általános irányelvek
Az MI-t használó összes rendszernek, alkalmazásnak informálnia kell az érintetteket, hogy mesterséges intelligenciával működnek, mert különben nem lesznek átláthatók.
Az MI-rendszerek szolgáltatóinak kötelessége a modellek, algoritmusok, adatok és kimenetek személyiségi jogokat betartó rögzítése. Szükség esetén így lehet hitelesíteni, illetve támadni a rendszereket.
Mivel az MI-fejlesztés komoly széndioxid-lábnyomot hagy maga mögött, módszertani konszenzust kell kidolgozni a hatások mérésére, besorolásukra, csökkentésükre.
A mai MI-rendszerek használata számos új biztonsági és személyiségi jogi kockázattal jár. Hackerek folyamatosan dolgoznak ki új támadómódszereket, és a rosszindulatú adatszivárogtatás szintén egyre nagyobb veszélyforrás. Ezek a kockázati tényezők a biztonság növelését indokolják.
