OWASP Top 10 for LLM Applications projekt
Az OWASP Top 10 for Large Language Model Applications projekt célja, hogy felhívja a figyelmet a nagy nyelvi modellek (LLM) és generatív AI-alkalmazások üzemeltetése és fejlesztése során felmerülő biztonsági kockázatokra. A projekt elsősorban fejlesztők, tervezők, architektúráért felelős szakemberek, vezetők és szervezetek számára készült, és célja, hogy strukturált módon mutassa be az LLM-ek legkritikusabb sérülékenységeit.
A kezdeményezés legfontosabb eleme az OWASP Top 10 lista, amely az LLM-ekre jellemző tíz legsúlyosabb biztonsági sebezhetőséget sorolja fel, kiemelve azok valós gyakoriságát, a kihasználásuk technikai nehézségét, valamint az általuk okozott lehetséges hatásokat. A felsorolt sérülékenységek között megtalálható a prompt injection, azaz manipulált bemeneti utasítások révén történő viselkedésbefolyásolás, az érzékeny adatok kiszivárgása, a nem megfelelő sandboxolás és az illetéktelen kódfuttatás lehetősége is.
A projekt célja nem csupán a kockázatok tudatosítása, hanem konkrét megelőzési és enyhítési stratégiák ajánlása is, annak érdekében, hogy az LLM-alapú alkalmazások fejlesztői és üzemeltetői már a tervezés során figyelembe vegyék a biztonsági szempontokat, és ezzel megerősítsék rendszereik védelmét a való életben is egyre gyakoribb fenyegetésekkel szemben.
LLM01: Prompt Injection
A támadók manipulált bemenetekkel képesek az LLM-ek viselkedését megváltoztatni, például rendszergazdai utasításokat felülírni vagy érzékeny adatokat kinyerni. Ez a támadási forma lehet közvetlen (a rendszerprompt felülírása) vagy közvetett (külső forrásokon keresztül történő manipuláció).
LLM02: Nem biztonságos kimenetkezelés
Ha az LLM-ek kimeneteit nem ellenőrzik megfelelően, az vezethet például XSS, CSRF vagy távoli kódfuttatási (RCE) támadásokhoz, különösen, ha a kimeneteket más rendszerek automatikusan feldolgozzák.
LLM03: Tanítóadat-mérgezés
A rosszindulatú vagy manipulált tanítóadatok befolyásolhatják az LLM-ek válaszait, torzítva azok pontosságát vagy etikai viselkedését.
LLM04: Modell-szolgáltatásmegtagadás (DoS)
Az erőforrás-igényes műveletek túlterhelhetik az LLM-eket, szolgáltatáskimaradást vagy megnövekedett költségeket okozva.
LLM05: Ellátási lánc sebezhetőségei
A megbízhatatlan komponensek, szolgáltatások vagy adatkészletek használata alááshatja a rendszer integritását, adatvesztést vagy rendszerhibákat eredményezve.
LLM06: Érzékeny információk kiszivárgása
Az LLM-ek kimeneteiben megjelenő érzékeny adatok, például személyes vagy üzleti információk, jogi következményeket vagy versenyhátrányt okozhatnak.
LLM07: Nem biztonságos bővítménytervezés
Az LLM-ekhez készült bővítmények, ha nem kezelik megfelelően a bemeneteket vagy nem rendelkeznek megfelelő hozzáférés-ellenőrzéssel, súlyos biztonsági kockázatokat jelenthetnek, például távoli kódfuttatást.
LLM08: Túlzott autonómia
Az LLM-ek túlzott önállósága nem várt következményekhez vezethet, veszélyeztetve a megbízhatóságot, adatvédelmet és a felhasználói bizalmat.
LLM09: Túlzott bizalom
Az LLM-ek válaszainak kritikátlan elfogadása hibás döntésekhez, biztonsági sebezhetőségekhez és jogi felelősséghez vezethet.
LLM10: Modell-lopás
Az LLM-ek jogosulatlan hozzáférése vagy másolása versenyelőny elvesztéséhez és érzékeny információk kiszivárgásához vezethet.
Az OWASP ezen kockázatokkal kapcsolatosan részletes útmutatókat és javasolt ellenintézkedéseket is nyújt, amelyek segítenek a biztonságos LLM-alkalmazások kialakításában és fenntartásában.
