Bevált gyakorlatok a biztonságos AI használathoz
Az Egyesült Államok Nemzetbiztonsági Ügynöksége (NSA) Mesterséges Intelligencia Biztonsági Központja (AISC) több nemzetközi kiberbiztonsági szervezettel – köztük a CISA-val, az FBI-jal, az ausztrál ASD-ACSC-vel, az új-zélandi NCSC-NZ-vel és a brit NCSC-UK-val – közösen kiadott kiberbiztonsági tájékoztatója a mesterséges intelligencia (AI) rendszerekhez kapcsolódó adatok biztonságának megerősítésére fókuszál. Az AI Data Security: Best Practices for Securing Data Used to Train & Operate AI Systems tájékoztató gyakorlati útmutatást nyújt az AI-rendszerek fejlesztése, tesztelése és működtetése során használt adatok védelméhez.
A tájékoztató kiindulópontja, hogy az AI-rendszerek működésének megbízhatósága szorosan összefügg a tanításhoz és működtetéshez használt adatok integritásával. A mesterséges intelligencia által hozott döntések közvetlenül a bemeneti adatok minőségétől függenek, így a kompromittált vagy manipulált adatok közvetve az AI logikájának torzulását is eredményezhetik. A dokumentum szerint az AI adatbiztonságának alapja az adatok védelme az illetéktelen hozzáférés, módosítás vagy törlés ellen. Ehhez olyan technikák alkalmazása szükséges, mint az adatok titkosítása, digitális aláírás, az adatok eredetének (provenance) nyomon követése, megbízható infrastruktúra használata és a biztonságos tárolás.
Kiemelt hangsúlyt kap három fő kockázati terület: az adatok ellátási lánca, a rosszindulatúan manipulált – úgynevezett mérgezett – adatok, valamint az adatok eltolódása (data drift), amely az idő előrehaladtával bekövetkező statisztikai változást jelenti a modellek bemeneti adataiban. Mindhárom területet részletesen ismerteti a jelentés, és konkrét megelőző intézkedéseket ajánl a kockázatok mérséklésére.
A tájékoztató elsősorban azokat a szervezeteket célozza meg, amelyek AI-alapú rendszereket használnak vagy integrálni terveznek a műveleti folyamataikba, így például a nemzetbiztonsági rendszerek üzemeltetőit, a védelmi ipart, a hatóságokat és a kritikus infrastruktúrák kezelőit. A dokumentum célja, hogy növelje a tudatosságot az AI-rendszerekhez kapcsolódó adatbiztonsági kockázatokkal kapcsolatban, ösztönözze a legjobb gyakorlatok alkalmazását az AI-életciklus minden fázisában, és megalapozza a biztonságos és megbízható AI-alapú döntéshozatalt támogató adatkezelési modellt. Az ajánlások követésével csökkenthető a szándékos adatmanipulációból eredő fenyegetés, és erősíthető az AI-rendszerek által feldolgozott érzékeny és küldetéskritikus információk védelme.
