Adversarial Machine Learning
A mesterséges intelligencia (MI) gyors fejlődése és széleskörű vállalati alkalmazása miatt a rosszindulatú szereplők egyre gyakrabban és kifinomultabban célozzák meg ezeket a rendszereket. Bár sok biztonsági vezető felismeri az MI biztonságának fontosságát és sürgősségét, gyakran hiányoznak a megfelelő folyamatok az újonnan felmerülő MI kockázatok hatékony kezelésére és mérséklésére, amelyek átfogóan lefedik az egész ellenséges MI fenyegetettségi teret.
A Robust Intelligence (Cisco része) és az Egyesült Királyság AI Security Institute együttműködött az Amerikai Nemzeti Szabványügyi és Technológiai Intézettel (NIST) az Adversarial Machine Learning Taxonomy legújabb frissítésének kiadásában. Ez a transzatlanti partnerség célja egy átfogó ellenséges MI fenyegetettségi térkép létrehozása volt, miközben régiók közötti összhangot teremtett az ellenséges MI megértésében és mérséklésében.
A NIST AI 100-2e2025 jelentés az ellenséges gépi tanulás (Adversarial Machine Learning, AML) területének egyik legátfogóbb és legaktuálisabb taxonómiája és szókészlete, amely a támadástípusokat, támadómodelleket és az ellenintézkedéseket részletezi.
A NIST Adversarial Machine Learning Taxonomy korábbi verzója a prediktív MI-re összpontosított, olyan modellekre, amelyek célja a történelmi adatok mintázatai alapján pontos előrejelzések készítése. Az egyes ellenséges technikákat három fő támadói célkitűzésbe csoportosították: rendelkezésre állás megsértése, integritás sérülése és adatvédelem megsértése. Emellett tartalmazott egy előzetes MI támadói technikák áttekintést a generatív MI számára, olyan modellek esetében, amelyek új tartalmat generálnak meglévő adatok alapján. A generatív MI átvette mindhárom ellenséges technikacsoportot, és hozzáadta a visszaélési jogsértéseket mint további kategóriát.
A taxonómia legújabb frissítésében kibővítettük a generatív MI ellenséges technikák és jogsértések szekcióját, miközben biztosítottuk, hogy a prediktív MI szekció továbbra is pontos és releváns maradjon a mai ellenséges MI környezetben. Az egyik fő frissítés a dokumentum elején található technikák és jogsértések indexének hozzáadása. Ez nemcsak megkönnyíti a taxonómia navigálását, hanem egyszerűbbé teszi a technikák és jogsértések hivatkozását külső forrásokban is. Ezáltal a taxonómia praktikusabb erőforrássá válik az MI biztonsági szakemberek számára.
