AI-vel előállított meztelen fotók szivárgása
A Wired beszámolója szerint egy olyan startup adatbázisa, amely AI-alapú kép- és videó-generálással foglalkozott, köztük nudify és face-swap szolgáltatásokkal, hibásan konfigurálták, így az üzleti rendszereikhez tartozó több mint 1 millió kép és videó letölthetővé vált bárki számára.
A kiszivárgott tartalom túlnyomó része meztelen emberábrázolást tartalmazott. A biztonsági kutató, aki a hibát felfedezte, arról számolt be, az adatbázisban nemcsak teljes meztelen fényképek voltak, hanem olyan képek is, amelyek valós emberek arcvonásait valós vagy AI-generált meztelen testekre illesztették rá (face-swap), illetve — rendkívül megdöbbentő módon — olyan felvételek is előfordultak, amelyek a kutató becslése szerint alá-korúak lehetnek.
Az érintett szolgáltatások közé tartozott több ismert alkalmazás is, például MagicEdit és DreamPal, mindkettő olyan AI-eszköz, amely mögött startupként működő cég állt. Ezek az alkalmazások lehetővé tették, hogy a felhasználók képeket töltsenek fel, majd az AI-motor lemossa róluk a ruhát, vagy arcot cseréljen más testtel. A hibás adatbázisból kiderült, hogy naponta mintegy 10 000 új kép került hozzájuk.
A leleplezés után a startup, leállította az adatbázis nyilvános hozzáférését, felfüggesztette a szolgáltatást, és vizsgálatot indított. A problémát megelőzőleg a MagicEdit és a DreamPal elérhetőek voltak a főbb alkalmazás-áruházakban, de azok még aznap lekerültek.
