ChatGPT korlátozások megkerülése
A Check Point Research kutatói találtak olyan esetet, amikor a kiberbűnözők a ChatGPT-t (GPT-3.5 – text-davinci-003) használták egy alapvető Infostealer kártevő kódjának fejlesztésére. Bár a kód létrehozása nem bonyolult vagy nehéz, a ChatGPT továbbfejlesztette az Infostealer kódját.
A Check Point Research arról számol be, hogy a kiberbűnözők igyekeznek megkerülni a ChatGPT azon korlátozásait – amelyeket az OpenAI épített be, hogy megakadályozza és korlátozza a rosszindulatú tartalom létrehozását a platformján – és ezeket a darkweben árulják. A megoldás többnyire az API-t használó Telegram-botok létrehozásával történik. Ezeket a robotokat hackerfórumokon hirdetik, hogy növeljék elérhetőségüket. A kiberbűnözők továbbra is azt kutatják, hogyan használhatják fel a ChatGPT-t a rosszindulatú programok fejlesztésére és az adathalász e-mailek létrehozására.
Ahogy a ChatGPT megvalósítása javul, a kiberbűnözők új visszaélésszerű módokat találnak az OpenAI-modellek használatára – ezúttal az API-val visszaélve.