Az irányelvek kidolgozása ugyanakkor sürgető lenne, mivel a hibás anatómiai illusztrációk klinikai környezetben kárt is okozhatnak. Vagy akár félrevezető információk online elterjedését is okozhatják.
Legalábbis erre figyelmeztetnek a norvég Bergeni Egyetem, a kanadai Torontói Egyetem és a Harvard Egyetem kutatói erre hívják fel a figyelmet.
Profi hatásvadászat
Tanulmányuknak már a címe is sokat elárul a szakmai kétségekről: “Jól néz ki, de hibás” – a kreativitás és pontosság ellentétei a generatív MI használatában az orvosbiológiai vizualizációban.
A szerzők különféle illusztrációkat mutatnak be, amelyeket az OpenAI GPT-4o-ja vagy a DALL·E 3 készített. Ezeket a vizualizációs szakértők által készített képekkel állították szembe.
Az orvos szakértők szerint az MI-vel generált képek esztétikusak lehetnek, ez azonban nem jelenti azt, hogy pontosak is – idézte szakmai véleményüket a The Register.
A GPT-4o képgenerátorral készített vizuális anyagok gyakran annyira profi hatásúak, hogy megbízható forrásnak tűnhetnek – írták a tanulmányban.
Ez azonban a kutatók szerint csupán a pontosság illúziója, amely veszélyes lehet.
Szakmai kockázatok
Márpedig a veszélyek nem elhanyagolhatók, az emberek ugyanis hibás információkra alapozva hozhatnak fontos döntéseket. És nem csupán a laikus páciensek, akiket szinte eláraszt az “MI-moslék“.
A szakértők szerint az MI-generált képek még a tapasztalt klinikusokat is megtéveszthetik.
Roxanne Ziman, a Bergeni Egyetem orvoshallgatója egy interjúalanyuk példáját idézte fel. Eszerint egy kockázatbecslő MI-rendszer a holland gyermekgondozási támogatások kapcsán ártatlan (főként külföldi) szülőket vádolt meg csalással.
Az MI által generált képek esetében a főbb problémák az orvosi, egészségügyi és tudományos publikációkban való pontatlan ábrák használata.
A legnagyobb gondot az jelenti, hogy az ilyen hibás képek torzíthatják a tudományos kutatások társadalmi megítélését.
Unalmas és hallucinál
A tanulmány szerzői gyakorló szakembereket is faggattak arról, hogy miként viszonyulnak a generatív MI-eszközökhöz.
Egyesek értékelték az MI-képek absztrakt, idegenszerű esztétikáját, amelyek elősegítik az ügyfelekkel folytatott párbeszédet.
A szakemberek mintegy fele azonban kritikus volt, mondván: “az MI-képek generikus kinézete unalmas.”
Voltak, akik szerint a szövegalkotó MI-funkciók sem mindig hozták meg a kívánt eredményt.
A tanulmány szerint gyakori probléma jelentenek a nem releváns vagy “hallucinált” hivatkozások, illetve a kitalált szakkifejezések.
A kutatóknak nyilatkozó szakemberek továbbra is a pontosságot tartják a legfontosabbnak, azonban a tanulmány szerint a jelenlegi genMI-eszközök még nem képesek megugrani ezt a mércét.
(Kép: Unsplash/Camillo Jimenez)
