RealOrRender deepfake-detektáló rendszer
A Fraunhofer IOSB bemutatta a RealOrRender deepfake-detektáló rendszert, amely a hagyományos AI-detektorokkal szemben nem kizárólag egy osztályozó modellre támaszkodik, hanem egy hibrid megközelítést alkalmaz. Az elemzendő képet először egy generatív AI-modellel újragenerálja, majd a rendszer összehasonlítja az eredeti és a rekonstruált kép közötti eltéréseket, végül ezt kombinálja egy mélytanuló osztályozó eredményével. A kutatók szerint ez a módszer megbízhatóbban azonosítja az AI által előállított képeket, még akkor is, ha azok olyan modern generatív modellekből származnak, amelyekkel a detektáló rendszert korábban nem tanították.
A rendszer másik újdonsága az Explainable AI alkalmazása. A RealOrRender nemcsak azt jelzi, hogy egy kép valószínűleg deepfake, hanem vizuálisan is megmutatja, hogy a döntést a kép mely részei és milyen jellemzők befolyásolták. A hőtérképek segítségével a felhasználó láthatja, hogy a modell például az arc textúráját, a bőr finom részleteit, a szemeket vagy más képi anomáliákat értékelte gyanúsnak. A Fraunhofer szerint ez jelentősen növeli a detektálás átláthatóságát és a felhasználók bizalmát, különösen a bűnüldözés, a digitális kriminalisztika és a médiatartalmak hitelességének ellenőrzése során.
A kutatók célja, hogy a rendszer ne csak pontos, hanem értelmezhető és auditálható döntéseket is hozzon, ami a jövőbeli AI-alapú forensics eszközök egyik kulcsfontosságú követelménye lehet.
