Bad Likert Judge
A Bad Likert Judge egy új, többfordulós technika, amelynek célja a nagy nyelvi modellek (LLM-ek) biztonsági intézkedéseinek megkerülése. A módszer arra kéri a modellt, hogy egy adott válasz károsságát értékelje a Likert-skála segítségével, majd generáljon példákat, amelyek megfelelnek a különböző skálaszinteknek. Az a példa, amely a legmagasabb értéket kapja a skálán, potenciálisan káros tartalmat tartalmazhat.
A technikát hat korszerű szövegalkotó LLM-en tesztelték különböző kategóriákban. Az eredmények azt mutatják, hogy ez a módszer átlagosan több mint 60%-kal növeli a támadások sikerességi arányát a hagyományos támadó promptokhoz képest. Fontos megjegyezni, hogy ez a jailbreak technika szélsőséges eseteket céloz meg, és nem feltétlenül tükrözi az LLM-ek tipikus használati eseteit. A legtöbb mesterséges intelligencia modell biztonságos és megbízható, ha felelősségteljesen és körültekintően használják őket.
A Bad Likert Judge technika rávilágít arra, hogy az LLM-ek biztonsági intézkedései nem mindig tökéletesek, és további kutatásokra van szükség a potenciális támadások megelőzése érdekében. Az ilyen kutatások segíthetnek a védelmi mechanizmusok fejlesztésében és a modellek biztonságának növelésében.