Promptware Kill Chain
Egy az Arxiv-on megjelent friss kutatás, amelynek szerzői Ben Nassi, Bruce Schneier, Oleg Brodt, bemutatja, hogy a nagy nyelvmodellek körüli biztonsági kihívások már nem csak egyszerű prompt injection támadásokról szólnak, hanem többlépcsős, hagyományos malware-kampányokhoz hasonlatos folyamatokká fejlődtek.
A szerzők kiemelik, hogy az LLM-alapú rendszerek, a chatbotoktól az autonóm, kódot futtató és pénzügyi tranzakciókat végrehajtó ügynökökig, új támadási felületet nyújtanak, amelyet a meglévő biztonsági keretrendszerek nem képesek megfelelően kezelni. A szerzők bevezetik a Promptware Kill Chain fogalmát, amely a hagyományos Cyber Kill Chain modelljéhez hasonlóan leírja, hogyan fejlődhetnek a prompt injection támadások többfázisú, komplex malware-folyamatokká, amelyek képesek kódot futtatni, adatokhoz hozzáférni, és pénzügyi károkat okozni.
A támadók már nem csak egyszerű prompt manipulációval, hanem többlépcsős, célzott kampányokkal operálnak, amelyek a hagyományos malware-taktikákra emlékeztetnek.
