Ehhez ugyanakkor szuverén MI-megoldások is kellenek. Ezek pedig – az Iris.ai állítása szerint – a hatékony MI-architektúrák, például a kis nyelvi modellek kihasználásával és a számítási erőforrások megosztásával fejleszthetők.
A DeepSeek versenyképes árazása és hatékonysága miatt csakhamar rendkívül népszerű lett. A modell nyílt forráskódja, valamint a fizikailag Kínában történő adattárolás azonban komoly biztonsági aggályokat vetett fel. Olaszország be is tiltotta a használatát, más országok pedig korlátozták a kormányzati intézményeknél, valamint a vállalkozásoknál való használatát.
Európai legjobbjai
Az idén februárban indult az OpenEuroLLM projekt célja Európa versenyképességének és digitális szuverenitásának javítása. Mindeközben a projekt az európai MI-termékfejlesztés küszöbét is csökkenti – írja a Tech.eu.
Ez igencsak időszerű, mivel sokan szívesen látnának életerős európai konkurenseket a DeepSeekkel szemben. E tekintetben leggyakrabban a francia Mistral AI és a német Aleph Alpha neve merül fel. Azonban ez utóbbi az LLM-ek fejlesztése helyett már inkább a vállalati és kormányzati szereplők számára biztosít MI-infrastruktúrát, illetve -platformokat.
Az OpenEuropeLLM egy összesen húsz vezető kutatóintézetet, vállalatot és EuroHPC-központot tömörítő konzorcium. A szervezet a kereskedelmi, ipari és közszolgáltatások számára nagy teljesítményű, többnyelvű, nagy nyelvi alapmodellek családját építi ki.
A modelleket a szigorú európai szabályozási környezetnek megfelelően fejlesztik, úgy, hogy a nyílt forráskódú és nyílt tudományos közösségekkel való együttműködést is biztosítsák. Ezzel a modellek, a szoftverek, az adatok és az értékelés teljesen nyílt lehet, a modellek pedig az adott iparág vagy a közszféra igényei alapján finomhangolhatók.
A mindent eldöntő SLM-ek
Kérdés mindazonáltal, hogy a kisebb, specializált MI modellek és alkalmazások fejlesztése valóban elősegíti-e az innovációt. Illetve, hogy képes lesz-e megszüntetni az MI-innovációs szakadékot.
Anita Schjøll Abildgaard, az Iris.ai vezérigazgatója szerint Európa MI-jövője a kisebb, de specifikus modellek és a nyílt forráskódú együttműködés elfogadásán múlik.
Mivel az európai adatközpontok energiaigénye 2030-ra megháromszorozódik, az MI másfajta megközelítését kell elképzelni. Éppen emiatt pedig nem az egyre nagyobb, hatalmas energiaforrásokat felemésztő modellekre támaszkodnának.
Abildgaard szerint ugyan megindult a mozgás az európai MI-piacon, ám a lendület ellenére még mindig kérdés, hogyan fogják pontosan elosztani a finanszírozást, és milyen időkeretben gondolkodnak.
Mindenesetre a kis nyelvi modellek (SLM) segíthetik az MI elfogadottságát. Az Iris.ai vezetője szerint az SLM-eknek alapmodellekre van szükségük ahhoz, hogy a kis modellek képzéséhez szükséges kiváló minőségű adatokat generáljanak. Így ahhoz, hogy Európa versenyképes legyen, mind az alapozás, mind a kis modellek terén jelen kell lennie.
Az SLM-ek jóval olcsóbbak és konkrét üzleti igényekhez igazíthatók – vagyis praktikusabbak – mint a nagy, általános célú modellek (LLM).
Az Iris.ai szakértői szerint emellett a legtöbb üzleti felhasználási esetben nincs szükség a masszív LLM-ek teljes teljesítményére.
Energia-megtakarítás, hatékony erőforrás-használat
Ha csak a szükséges tudást lehet egy kisebb modellbe desztillálni, az hatékonyabb és költséghatékonyabb – állítják az Iris.ai-nál. Az SLM-ek bárhol működhetnek, ahol gyors és hatékony döntéshozatalra van szükség. De akár ügynökalapú munkafolyamatokban is, ahol több SLM együttműködik. A kis modellek jól működhetnek akár a kémia és az egészségügy területén is.
Szakértők nem győzik hangsúlyozni az SLM-ek energia-megtakarítási potenciálját.
Egy 1B paraméterű modellnek sokkal kevesebb számítási kapacitásra van szüksége, mint egy 400B-snek. Nagyjából hatvanezerszer kevesebb erőforrást használ. A kis modellek régebbi GPU-kon is futtathatók, alacsonyabb energiafelhasználással. Nemcsak olcsóbbak, de környezetbarátabbak is, ami Európa fenntarthatósági céljaival is összhangban van.
Együttműködésben az erő
Victor Botev, az Iris.ai társalapítója és műszaki vezérigazgató-helyettese szerint a nyílt forráskódú együttműködés robbanásszerűen nő. Ez többek között olyan projekteknek is köszönhető, mint a DeepSeek.
“Nyílt forráskódú desztillációs módszereket bocsátottak rendelkezésre, amelyek lehetővé teszik, hogy az emberek kis modelleket építsenek a nagy modellekből” – magyarázta Botev. A megerősítéses tanulás is hatékonynak bizonyul – még a felügyelt finomhangolással is vetekszik, aminek a testreszabás szempontjából óriási jelentősége van – tette hozzá a szakember.
Abildgaard azt is felvetette, hogy az európai startupok inspirálódhatnának a nyílt hozzáférésű publikálásból.
Mivel az együttműködésben rendkívüli erőt sejt az Iris.ai, a társaság már partnerséget kötött a Sigma2 AS-szel, amely Norvégia nemzeti e-infrastruktúráját biztosítja. Az intézmény nagy teljesítményű számítási és adattárolási szolgáltatásokat nyújt kutatási, valamint oktatási célokra. Az Iris.ai a Sigma2-t használja a kis modellek (1-9B paraméter) képzésére és domain-adaptálására, valamint a rendszerelemek értékelésére.
Az ígéretes kezdeményezések ellenére az SLM-ek csak lassan jelentek meg Európában.
Az egyik kiemelkedő vállalat a skót Malted AI, amely a nagy modellek kimenetét kisebb modellekbe desztillálja. Technológiája lehetővé teszi a vállalkozások számára, hogy olyan kis nyelvi modelleket (SLM) alkalmazzanak, amelyek 10-100-szoros költségmegtakarítással oldják meg a szakterület-specifikus problémákat. Ahelyett, hogy több ezer feladatot közepesen jól végeznének el, a Malted AI SLM-jei egyetlen feladatot szinte tökéletesen végeznek el.
Mindez azt sugallja, hogy a méretnövelés hajszolása helyett Európa az intelligens, nyílt és fenntartható MI előmozdításával tehetne szert vezető szerepre. Vagyis nemcsak az alapmodellekbe, hanem az agilis fejlesztést, együttműködést és finomhangolást lehetővé tevő ökoszisztémákba is be kell fektetni.
