A Big Sleep nevű MI-ügynök a Google “Szundikálás” (Naptime) projektjéből nőtte ki magát. A Naptime voltaképpen egy nagy nyelvi modellel (LLM) támogatott biztonsági sebezhetőségeket kutató keretrendszer.
A Google és a BigSleep mögött álló csapat (DeepMind) szerint ez az első eset a világtörténelemben, hogy egy LLM-mel támogatott MI-ügynök detektált nulladik-napos sérülékenységet – írta a Forbes.
Az MI sem old meg mindent, de könnyebb vele
A mostani hír hátteréhez tartozik, hogy a Google éppen a Big Sleep fejlesztése érdekében egyesítette erőit a DeepMind nevű MI-kutató laboratóriummal.
A “Project Zero” elnevezésű kezdeményezés célja pont az volt, hogy élvonalbeli etikus hackerek és az MI-kutatók közösen fejlesszenek LLM-ügynököt. A nagyméretű, nyelvi modellel támogatott ügynök pedig képes lehet a széles körben használt kódok biztonsági réseit feltárni.
A november eleji bejelentés szerint egyébként a Big Sleep egy kihasználható “stack buffer underflow-t” találtak az SQLite nevű elterjedt, nyílt forráskódú adatbázis-motorban.
A nulladik napi sebezhetőséget még októberben jelentették az SQLite fejlesztőcsapatának, amely még aznap javította azt. „A problémát még azelőtt találtuk meg, hogy az a hivatalos kiadásban megjelent volna, így a sérülékenység az SQLite-felhasználókat nem érintette” – közölte a Google Big Sleep csapata.
A fuzzing a biztonsági célú kutatásban már hosszú évek óta használt és ismert fogalom. (A módszer lényege az “összezavarás, vagyis a kiválasztott kódokat véletlenszerű adatokkal bombázzák a hibakutatás során.)
Bár a fuzzing használata széles körben elfogadott, azt még a hackerek is elismerik, hogy nem találnak meg vele mindent.
A Big Sleep csapata szerint pedig az MI képes kitölteni a hiányzó rést, és megtalálni a szoftverek sebezhetőségeit még a megjelenés előtt.
A Big Sleep-csapat szerint ugyanakkoz az MI-ügynök csak annyira hatékony, mint egy célspecifikus fuzzer – azonban fényes jövő előtt áll. Az ügynök nem csak az összeomló tesztesetek megtalálására, hanem kiváló minőségű gyökérelemzésre is képes. Így a jövőben sokkal olcsóbb, hatékonyabb lehet a problémák feltárása és javítása.
(Kép: unsplash.com/Hack Capital)
