Útmutató AI-rendszerek kiberkockázatainak kezelésére
A brit National Cyber Security Centre (NCSC) gyakorlati útmutatót adott ki az agentikus AI-rendszerek kiberkockázatainak kezelésére. A kiindulópont szerint minél nagyobb önállóságot kap egy AI-agent – például hozzáférést éles rendszerekhez, hálózatokhoz, adatokhoz vagy hitelesítő adatokhoz –, annál nagyobb lehet egy hibás, váratlan vagy manipulált művelet hatása. Az NCSC hangsúlyozza, hogy a modellek beépített biztonsági mechanizmusaira önmagukban nem szabad támaszkodni, mert azok megkerülhetők vagy elégtelenek lehetnek magas kockázatú környezetben.
Az NCSC ezért threat modellinget, minimális szükséges autonómiát és jogosultságot, emberi felügyeletet, valamint erős sandboxolást javasol. A hálózati hozzáférés alapértelmezetten legyen tiltott, és csak a szükséges célpontokat engedélyezzék, magas kockázatnál a legbiztonságosabb megoldás a teljesen izolált környezet. Az agentek saját, elkülöníthető identitást és rövid életű hitelesítő adatokat kapjanak.
Kiemelt követelmény a folyamatos naplózás és monitorozás, hogy az agent műveletei utólag visszakövethetők legyenek. Emellett mindig fenn kell tartani egy pull the plug vészleállítási lehetőséget, amely nemcsak az agent folyamatát, hanem szükség esetén annak hálózati és modell-infrastruktúrához való hozzáférését is azonnal megszakítja. Az NCSC szerint ez egyelőre átmeneti útmutatás, részletesebb hivatalos iránymutatás kidolgozása folyamatban van.
