Pokrok v oblasti umělé inteligence (AI) pokračuje neúProsně. Obrázky, které jsou tímto způsobem vytvořeny, mohou vypadat velmi realisticky, což vyvolává obavy u některých lidí. Studie ukazuje, že je možné zlepšit schopnost rozpoznávání falešných obrazů.
Podle výzkumného týmu z univerzit Leeds, Reading, Greenwich a Lincoln stačí pětiminutový trénink k tomu, aby bylo možné lépe odhalovat tváře na obrázcích vytvořených AI. Psycholožka Eilidh Noyes, podle zprávy univerzity Leeds, uvádí: „S narůstající schopností vytvářet realistické AI-obrázky se zvyšuje i obtížnost jejich rozpoznání. Tyto obrázky mohou být zneužity pro škodlivé účely, proto je z bezpečnostního hlediska nezbytné vyzkoušet metody pro odhalování umělých obrazů.“
V rámci studie generovali vědci AI-tváře pomocí softwaru StyleGAN3, což bylo v době výzkumu nejpokročilejší dostupné systém. Mezi celkem 664 účastníky studie bylo 283 takzvaných Super-Recognizerů, tedy lidí, kteří jsou zvláštními mistry v rozpoznávání tváří. Účastníci byli rozděleni do několika skupin.
První testování schopností detekce
V první fázi měly dvě skupiny účastníků úkol rozpoznat, které z prezentovaných tváří patří skutečným lidem a které byly vytvořeny umělou inteligencí. Super-Recognizers správně identifikovali 41 % AI-tváří, zatímco lidé z druhé skupiny dosáhli hodnoty 31 %, což je dokonce pod úrovní náhodného výběru.
Tyto dvě skupiny absolvovaly krátké tréninky zaměřené na zpřesnění rozpoznání AI-tváří. Výsledky ukázaly, že účastníci s nadstandardními dovednostmi v rozpoznávání obličeje byli schopní identifikovat 64 % AI-tváří, zatímco v druhé skupině to bylo pouze 51 %.
Trénink tedy pozitivně ovlivnil obě skupiny. To naznačuje, že Super-Recognizers při identifikaci AI-tváří využívají pravděpodobně jiné vizuální charakteristiky než průměrní pozorovatelé, kteří po tréninku zlepšili své schopnosti především v rozpoznávání chyb v zobrazení, o kterých byli během tréninku informováni.
Klíčové signály pro rozpoznání falešných obrazů
Aby bylo možné rozpoznat falešné tváře, je třeba se zaměřit na chyby, které tyto AI-generované obrázky často vykazují. Tyto zahrnují například nerovné zuby, neobvyklé linie vlasů nebo disproporční a nesourodé uši a různé náušnice. Během tréninku byly účastníkům ukazovány AI-generované obrázky s těmito chybami.
Budoucí výzkumy by měly ukázat, zda se tréninkové efekty udržují dlouhodobě. Dále je třeba prozkoumat, jak by schopnosti Super-Recognizerů mohly doplnit nástroje pro rozpoznávání založené na AI, uzavírají výzkumníci. Výsledky této studie byly zveřejněny v časopise „Royal Society Open Science“.
