Shadowy innovation
A Kaspersky szerint az olyan technológiák, mint az LLM (Large Language Models) növekvő népszerűsége megkönnyíti a hétköznapi feladatok elvégzését és az információkhoz való könnyebb hozzáférést, ugyanakkor új kockázatokat is jelent az információbiztonság szempontjából. Nemcsak a szoftverfejlesztők és a mesterséges intelligencia rajongói vitatkoznak aktívan a nyelvi modellek felhasználásának módjairól – a támadók is.
A Kaspersky Digital Footprint Intelligence szolgáltatásának 2023-as megállapításai szerint a biztonsági kutatók a ChatGPT és más nagy nyelvi modellek (LLM) illegális használatával kapcsolatos sötét webes viták jelentős növekedését figyelték meg. Közel 3000 dark webes bejegyzést azonosítottak, amelyek a kiberfenyegetések spektrumára összpontosítottak, a rosszindulatú chatbot-verziók létrehozásától az olyan alternatív projektek, mint az XXXGPT és a FraudGPT feltárásáig. Bár a csevegés csúcspontja tavaly márciusban volt, a folyamatban lévő viták azt jelzik, hogy az AI-technológiák illegális tevékenységekre való kihasználása iránt folyamatos az érdeklődés.
A Kaspersky adatai szerint a kiberbűnözők aktívan vizsgálják a ChatGPT és a mesterséges intelligencia különböző módszereit, beleértve a rosszindulatú programok fejlesztését és a nyelvi modellek tiltott használatát.
A fenyegető szereplők aktívan vizsgálják a ChatGPT és a mesterséges intelligencia megvalósításának különböző módszereit. A témák között gyakran szerepel a rosszindulatú szoftverek fejlesztése és a nyelvi modellek más típusú tiltott felhasználása, például az ellopott felhasználói adatok feldolgozása, a fertőzött eszközökről származó fájlok elemzése és azon túl. Az AI-eszközök elterjedése azt is eredményezte, hogy a ChatGPT vagy annak megfelelői automatizált válaszokat építettek be egyes kiberbűnözői fórumokba. Ezen túlmenően a fenyegető szereplők hajlamosak arra, hogy különböző sötét webes csatornákon keresztül jailbreakeket osszanak meg – olyan speciális kéréskészleteket, amelyekkel további funkciókat lehet feloldani -, és kitalálják, hogyan lehet a törvényes eszközöket, például a pen-teszteléshez használt modellek alapján rosszindulatú célokra kihasználni – ál a jelentésben.