AI-agents kiber-támadási lehetősége
Az AI-agent rendszerek gyors fejlődése miatt reális kockázattá válhat az automatizált kiber-támadási képességek növekedése, ezért a kutatók javasolják az ilyen rendszerek biztonsági tesztelését és monitorozását, mielőtt széles körben elterjednének kritikus környezetekben.
A Measuring AI Agents’ Progress on Multi-Step Cyber Attack Scenarios tanulmány azt vizsgálja, hogy a modern AI-modellek mennyire képesek autonóm módon több lépésből álló kibertámadási műveleteket végrehajtani. A kutatók két külön kiber-tesztkörnyezetben értékelték a modelleket, egy 32 lépéses vállalati hálózati támadási forgatókönyvben és egy 7 lépéses ipari irányítórendszer elleni támadásban.
A vizsgálat során hét különböző, 2024 és 2026 között megjelent AI-modellt teszteltek, és azt találták, hogy az újabb modellek jelentős előrelépést mutatnak a komplex, több lépésből álló feladatok végrehajtásában, különösen akkor, ha több számítási erőforrást kapnak. Ugyanakkor a modellek még nem képesek teljesen autonóm módon végrehajtani egy teljes támadási láncot, mivel a hosszú akciósorozatok során gyakran hibáznak vagy elvesztik a kontextust.
