Emberi beavatkozás nélkül is készülhetnek exploitok

Editors' Pick

A kiberbűnözők egyre gyakrabban alkalmaznak olyan mesterségesintelligencia-alapú rendszereket, amelyek nem csupán egy-egy támadási feladatot segítenek, hanem több lépésből álló műveleteket is automatizálnak. A Google Threat Intelligence Group (GTIG) és a Mandiant jelentése szerint az autonóm AI-ügynökök használata már valós támadási környezetekben is megfigyelhető.

A kutatók egyik legfontosabb felfedezése az exploit_agent nevű keretrendszer, amelyet egy interneten elérhető tesztszerveren azonosítottak. Az eszköz több nyelvi modell segítségével automatikusan összehasonlította a webalkalmazások frissítés előtti és utáni kódját, azonosította a javított sérülékenységeket, majd kihasználó kódot állított elő és futtatott. Ez különösen veszélyes a már ismert, de még nem javított (n-day) hibák esetében, mert jelentősen lerövidítheti a biztonsági frissítés megjelenése és a támadások megindulása közötti időt.

A Google több más támadó keretrendszert is azonosított, köztük az ARTEX, CAIRN, CyberStrikeAI és PentAGI eszközöket. Ezek a felderítéstől a sérülékenységek kihasználásán át a jogosultságkiterjesztésig több támadási szakaszt képesek támogatni, csökkentve az emberi közreműködés szükségességét.

Az AI a kiberbűnözői szolgáltatásokban is terjed. A Jieyou nevű kínai nyelvű adathalászplatform például olyan chatbotot épített be, amellyel a kevésbé képzett támadók természetes nyelvű utasításokkal módosíthatják adathalász oldalaikat. Eközben az úgynevezett LLMJacking-támadások során a bűnözők ellopott hozzáférésekkel használják, majd illegális közvetítőszolgáltatásokon keresztül értékesítik tovább a vállalatok AI-erőforrásait.

A jelentés szerint állami hátterű kiberkémkedési csoportok is alkalmaznak nyelvi modelleket célpontkutatásra, adatelemzésre és a szoftverfejlesztési folyamatok manipulálására. A dezinformációs műveletekben pedig az AI a megtévesztő tartalmak tömeges előállítását és terjesztését gyorsítja.

A megállapítások nem jelentik azt, hogy minden kibertámadás teljesen önállóvá vált. A Google azonban már olyan automatizált támadási folyamatokat dokumentált, amelyek egyes szakaszokban emberi beavatkozás nélkül működnek.

FORRÁS