OpenAI GPT-4 kihasználhatja a sérülékenységeket
Az OpenAI GPT-4 nagy nyelvi modellje emberi beavatkozás nélkül képes kihasználni a valós sebezhetőségeket – állapították meg az Illinois-i Egyetem Urbana-Champaign kutatóinak új tanulmányában. Más nyílt forráskódú modellek, köztük a GPT-3.5 és a sebezhetőségi szkennerek nem képesek erre.
A GPT-4-en futó nagy nyelvi modell-ügynök – egy fejlett, LLM-en alapuló rendszer, amely képes eszközökkel lépéseket tenni, érvelni, önreflexiót végezni és még sok másra – sikeresen kihasználta az “egynapos” sebezhetőségek 87%-át, amikor megkapta azok National Institute of Standards and Technology leírását. Az egynapos sebezhetőségek olyanok, amelyeket már nyilvánosságra hoztak, de még nem foltozták be őket, így még mindig kihasználhatók. Ahogy az LLM-ek egyre erősebbé váltak, úgy nőttek az LLM-ügynökök képességei is – írták a kutatók az arXiv preprintben. Azt is feltételezték, hogy a többi modell összehasonlító kudarca azért van, mert sokkal rosszabbak az eszközhasználatban, mint a GPT-4.
Az eredmények azt mutatják, hogy a GPT-4 rendelkezik azzal a kialakulóban lévő képességgel, hogy önállóan felismerje és kihasználja az egynapos sebezhetőségeket, amelyeket a szkennerek esetleg figyelmen kívül hagynak.