A generatív mikro-alkalmazás egy új technológia, amely lehetővé teszi a vállalatok számára, hogy kihasználják a generatív AI-t, miközben minimalizálják a vállalkozás kockázati tényezőit. A generatív mikro-alkalmazások olyan alkalmazások, amelyek közvetítőként működnek egy felhasználó és egy LLM, ilyen megoldás például a ChatGPT vagy a Bard.
Munkaerő boost
A Gartner előrejelzése szerint 2026-ra a Fortune 100-ban szereplő cégek irodai dolgozóinak 50 százaléka valamilyen formában mesterséges intelligenciával bővül, akár a termelékenység növelése, akár a munka átlagos minőségének javítása érdekében.
Vegyünk például egy LLM-et, amely kiegészül egy saját kutatási adatbázissal. Miközben a szerző egy új kutatást készít, a szövegszerkesztő programba beágyazott mikroalkalmazás minden szakaszt beolvas, és előre elkészített prompt könyvtárát használja, hogy példákat kérjen az LLM-től a kutatásokra és adatokra, amelyek alátámasztják, valamint a cáfolatokra, kiegészítésekre ugyanígy. A válaszok pontosságát a mikroalkalmazás ellenőrzi, majd javaslatok vagy megjegyzések formájában jeleníti meg a szövegszerkesztőben.
Ez a kiegészítés az emberileg lehetségesnél nagyobb mértékben növelné a szerző képességeit. Senki sem tudhat minden publikált kutatásról, de egy adatokkal kiegészített LLM képes erre.
Az általános célú mikroalkalmazások mindennapossá válnak, mint például a szövegszerkesztők, az e-mail- és a konferenciaeszközök. A szervezetek speciális mikroalkalmazásokat fejlesztenek ki, kezdetben a nagy tudású alkalmazottak kiegészítéseként. Ezek néhány éven belül minden tudományos munkás számára áruvá válnak. Egy új iparág, amely a speciális generatív mikroalkalmazások fejlesztésére összpontosít, növekedni fog és virágzik.
Ahelyett, hogy a felhasználó közvetlenül kapcsolódna az LLM-hez, a mikroalkalmazások előre programozott promptkészlettel, meghatározott számú feladatot kezelnek a felhasználó nevében. Nincs beszélgető/csevegő felület. A promptokat a modell lekérdezésére és a válaszok előre meghatározott formátumban történő fogadására használják. Ez megkönnyíti a mikroalkalmazáson belüli logika számára, az egyes válaszok érvényesítését, mielőtt azokat visszaküldené a felhasználónak.
Így csökkentik a generatív mikroalkalmazások az LLM-ek fő kockázatait
Három kulcsfontosságú kockázat létezik, amelyek az LLM-ekre jellemzőek: a hozzáférés-szabályozás, a pontosság és a leértékelés. A mikroalkalmazások mindegyikkel foglalkozik:
Hozzáférés-szabályozás: A szervezetek a hozzáférés-szabályozásra támaszkodnak, amelyben hozzáférési szabályt hoznak létre és alkalmaznak az esetek 100 százalékában. Ha a szabály meghiúsul, a rendszer egyszerűen megtagadja a hozzáférést. Ha azonban egy LLM-t különböző típusú vállalati adatokkal egészítenek ki, nincs garancia arra, hogy a hozzáférési szabályokat betartják. A generatív mikroalkalmazások proxyként működnek a vállalati LLM számára, így nem teszik lehetővé a felhasználó számára, hogy chaten keresztül közvetlenül kapcsolatba lépjen a modellel. Mint ilyenek, nem kényszeríthetők arra, hogy nyilvánosságra hozzanak korlátozott adatokat.
Pontosság: A „hallucinációk” kifejezés azt írja le, hogy a modellek alkalmanként milyen fiktív – ugyanakkor magabiztos és meggyőző – válaszokat adnak. A szigorú azonnali tervezés révén a mikroalkalmazásokba ágyazott előre beállított promptok korlátozhatják a hallucinációkat. Ezenkívül a mikroalkalmazás kikényszerítheti, hogy a megadott válaszok olyan formátumban legyenek, amelyet az alkalmazás ellenőrizni tud, mielőtt átadná a felhasználónak.
Leértékelés: Előfordulhat, hogy a szervezetek nem hajlandók ugyanannyit fizetni egy LLM által nyújtott termékekért és szolgáltatásokért, nem pedig képzett és tapasztalt szakemberekből álló csoportokért. A célirányos mikroalkalmazásokat úgy fejlesztik ki, hogy kiegészítsék a tudásmunkásokat. Ez javítja a munka átlagos minőségét és növeli a termelékenységet, ezáltal segít csökkenteni a munkaerőhiányt. Mivel a munkát továbbra is szakemberek végzik, az üzleti modell védve van a leértékelődési kockázatoktól.
