Jailbreaking ChatGPT
A ChatGPT bevezetése fegyverkezési versenyt indított el a technológiai óriások között.A ChatGPT a gépi tanulás egy alszakaszára, az úgynevezett nagy nyelvi modellekre (Large Language Models- LLM) támaszkodik. A tervezés alapját egy mesterséges intelligencia képezi, amellyel természetes nyelven, sokféle témában lehet kapcsolódni. Az LLM-ek hatalmas mély-neurális hálózatok, amelyek több milliárd oldalnyi írott anyag bevitelére vannak felkészítve egy-egy nyelven, miközben megpróbálnak végrehajtani egy bizonyos feladatot, például a következő szavak, vagy mondatok előrejelzését.
Bár a jailbreak – a korlátozások megszüntetése, amelyeket a gyártó megpróbált bekódolni a szoftverébe vagy szolgáltatásaiba – még mindig viszonylag egyszerű, a korai hozzáféréssel rendelkezők megpróbálják megtalálni a kiskapukat a védőkorlátok körül, és lehetőséget biztosítanak a fejlesztőknek, hogy kihasználják ezeket. Az ilyen összetett rendszerek laboratóriumi tesztelése nagyon korlátozott, és hiányzik belőle a felhasználók millióinak valós kreativitása – köztük a biztonsági kutatóké is.