AI rendszerek kockázatelemzése és javaslatok a biztonságos használatra
A Kanadai Kiberbiztonsági Központ és a Francia Kiberbiztonsági Ügynökség (ANSSI) közös átfogó iránymutatást adott ki, amelyben a megbízható mesterséges intelligencia (AI) rendszerek és a biztonságos AI ellátási láncok előmozdítását célzó kockázatalapú stratégiát sürgetik. Ez a kezdeményezés számos ágazatot érint, többek között a védelmi, az energetikai, az egészségügyi és a pénzügyi szektort, akiket érintenek az AI hatásai. Miközben az AI alkalmazása jelentős innovációs és hatékonysági lehetőségeket kínál, potenciális kockázatokat is hordoz magában. A kiberszereplők kihasználhatják az AI rendszerek sérülékenységeit, veszélyeztetve azok integritását és az AI technológiák biztonságos alkalmazását. Az iránymutatás hangsúlyozza az a kockázatok mérséklésére irányuló proaktív intézkedések fontosságát, amelyek minden ágazatban biztosíthatják az AI felelős és biztonságos alkalmazását.
Az ügynökségek a „Building trust in AI through a cyber risk-based approach” című közös iránymutatásukban megjegyzik, hogy a szervezeteknek és az érdekelt feleknek fel kell mérniük az AI-al való kapcsolatukkal és a nagy nyelvi modellek (LLM) gyors elfogadásával kapcsolatos kockázatokat. Ezeket az AI rendszereket ugyanolyan kiberbiztonsági fenyegetések érinthetik, mint bármely más információs rendszer. Vannak azonban AI specifikus kockázatok, különösen azok, amelyek az adatoknak az AI rendszerekben betöltött központi szerepével kapcsolatosak, és amelyek egyedi kihívást jelentenek a bizalmasság és az integritás szempontjából.
A dokumentum iránymutatásokat tartalmaz az AI felhasználói, üzemeltetői és fejlesztői számára, többek között a mesterséges intelligencia rendszer autonómiaszintjének a kockázatelemzéshez, az AI ellátási lánc feltérképezéséhez, az AI rendszerek és más információs rendszerek közötti kapcsolatok nyomon követéséhez, valamint az AI rendszerek folyamatos karbantartásához. Az iránymutatás emellett javasolja a főbb technológiai és szabályozási változások nyomonkövetését, az új és potenciális fenyegetések azonosítását, valamint kiemeli a képzések és biztonságtudatosítás fontosságát.
