OpenAI Atlas Omnibox Prompt Injection
A NeuralTrust blogbejegyzése szerint az OpenAI Atlas böngészőjében komoly biztonsági rést találtak, amely lehetővé teszi, hogy támadók ártalmas utasításokat rejtsenek
Read More
Prompt injection
Beépülő AI „ügynökök” rejtett fenyegetése
Az ARIMLABS kutatói biztonsági tanulmányt tettek közzé az autonóm böngésző mesterséges intelligencia alapú agentek-ről. A tanulmány -The Hidden Dangers of Browsing
Read More
LLM-ek megkerülése prompt injection-nel
Minden nagyobb generatív mesterséges intelligenciamodell kifejezetten arra van tanítva, hogy elutasítson minden olyan felhasználói kérést, amely káros tartalmak létrehozására utasítja
Read More