OWASP GenAI Red Teaming útmutató
Ahogy a generatív mesterséges intelligencia technológiák, mint például a nagy nyelvi modellek (LLM), rohamos sebességgel fejlődnek, az általuk eredményezett biztonsági és etikai kihívások is ugyanilyen dinamikusan fejlődnek. Az OWASP GenAI Red Teaming útmutatója ezt a hiányosságot kívánja megszüntetni azáltal, hogy strukturált, kockázatalapú módszertant kínál az ilyen AI-rendszerek és -alkalmazások valós forgatókönyvek szerinti értékeléséhez – a modellszintű sérülékenységektől és a prompt injektálástól kezdve a rendszerintegráció buktatóin át a megbízható AI-telepítések biztosításának legjobb gyakorlataiig.
Az útmutató a GenAI Red Teaming kritikus összetevőit vázolja fel hasznos információkkal, a kiberbiztonsági szakemberek, AI/ML mérnökök, Red Team-szakemberek, kockázatkezelők, támadáskutatók, CISO-k, architektúra-csapatok és üzleti vezetők számára. Az útmutató a Red Teaming holisztikus megközelítését hangsúlyozza négy területen: modellértékelés, végrehajtás tesztelése, infrastruktúra-értékelés és runtime viselkedéselemzés.
Az útmutató használata
- A GenAI Red Teaming magas szintű működésének megismerése – tökéletes kezdőknek vagy mindazoknak, akik lépésről lépésre történő bevezetést keresnek.
- Az Ön felhasználási esete szempontjából legfontosabb fenyegetések meghatározása, többek között olyan kérdésekre koncentrálva, mint a prompt inejction vagy nyilvános chatbotot üzemeltetése.
- Ha már ismeri a konkrét kockázatokat, az ajánlott tesztkategóriák használata, hogy tesztelje mennyire ellenálló a mesterséges intelligencia rendszer.
- A megállapításokat integrálása a szervezet biztonsági ökoszisztémájába. Az útmutató hangsúlyozza a folyamatos felügyeletet.
- Minden környezet más és más, ezért testre kell szabni a checklist-eket, a keretrendszereket és referenciáinkat a saját igényekhez.
