Magic happens!
A tisztánlátást nem segíti, hogy egyrészt egyesek a közelgő AGI/ASI kapcsán az emberi civilizáció végét jósolják, a fehérgalléros munka eltűnésével vagy gyökeres átalakulásával pedig ha közelebbről megnézzük, még összeadni sem tud rendesen. De közös mindennapi tapasztalat, hogy tényleg hasznos: rácsodálkozunk, használjuk, bosszankodunk, reménykedünk, keresgetjük a határokat, a fogást, nézzük a benchmarkokat, hallgatjuk a vizionáriusokat, a tagadókat, a józanabb hangokat.
Pörög a hájp!
A reményteli vagy félt jövőtől való rettegés elviszi a fókuszt a nagyon is valós aktuális lehetőségektől, veszélyektől. Az eddig ismert támadóink most új eszközökhöz, képességekhez jutottak. Ismert veszélyt újra cserélni nem kell félnetek jó lesz (vessző szándékosan kihagyva).
De lesznek új támadók és váratlan képességek, egymásra hatások is. Itt van rögtön kézenfekvően az AI-t használó ember: a korlátozott megértésével, a túlzott hitével, a kritikátlan használatával. Látható ismerősökön, kollégákon, hogy a megértés hiánya, de a viszonyulás szükségessége (emberi alapigény) mit szül: a ChatGPT legyen mondjuk, mint az ember, csak hallucinál, néha téved, de alapvetően olyan emberi, ráadásul kedves, sokat dicsér, szívesebben beszélek vele, mint másokkal. A ChatGPT a kutya után az ember… Valami ilyesmi. Túl jó, hogy elvessük, viszont az, hogy szót értünk vele, adja magát: antropomorfizáljuk. Pedig talán jobb lenne valami gépibb igazodási pont.
Természetellenes intelligencia!
Az Istenek a fejükre estek című filmben van egy jelenet, amikor először nézegetik a busmanok a kólásüveget, és próbálják kitalálni mire jó. Sok olyan use case-re jönnek rá, amire mi, akik tudjuk, mire szánták eredetileg, nem. A film története ismert, az új use case-ek új konfliktusokat szültek, és a vége az lett, hogy úgy döntött a törzs: megszabadulnak a kólásüvegtől, elviszik a világ peremére és ott lehajítják.
A film története mostanában gyakran jut az eszembe, hiszen a helyzet sok szempontból hasonló. A különbség, hogy a kólásüvegről tudjuk, mire jó. A kérdés, hogy elvisszük vagy elvigyük-e az AI-t a világ peremére. Vagy minket visz ő (?) oda?
