LLM-ek megkerülése prompt injection-nel
Minden nagyobb generatív mesterséges intelligenciamodell kifejezetten arra van tanítva, hogy elutasítson minden olyan felhasználói kérést, amely káros tartalmak létrehozására utasítja
Read More
LLM
Irán mesterséges intelligencia ambíciói
Irán felismerte, hogy a mesterséges intelligencia (AI) létfontosságú szerepet fog játszani jövőbeli gazdasági életképességében, regionális befolyásában és nemzetbiztonságában, és megkezdte
Read More
Memory INJection Attack
A MINJA (Memory INJection Attack) egy új támadási forma, amelyet kutatók fejlesztettek ki a nagy nyelvi modellekre (LLM-ekre) épülő agentek memóriájának manipulálására. Ez
Read More
12,000 API kulcs és jelszó a DeepSeek tanítási adataiban
A Truffle Security közölte, hogy letöltött egy 2024. decemberi archívumot a Common Crawlból. A hatalmas adathalmaz több mint 250 milliárd
Read More
OWASP GenAI Red Teaming útmutató
Ahogy a generatív mesterséges intelligencia technológiák, mint például a nagy nyelvi modellek (LLM), rohamos sebességgel fejlődnek, az általuk eredményezett biztonsági
Read More
Az AI által generált kódok kiberbiztonsági kockázatai
A legújabb fejlesztések javították a nagy nyelvi modellek (LLM) és más mesterséges intelligencia rendszerek kódgenerálási képességét. Bár ez ígéretes a
Read More
Azure AI védőkorlátok megkerülése
A Mindgard kutatói kritikus sérülékenységeket fedeztek fel a Microsoft Azure AI Content Safety szolgáltatásában, ami lehetővé teszi a rosszindulatú szereplők
Read More
A mesterséges intelligencia felhasználása az offenzív biztonságban
A támadó biztonság magában foglalja a támadó viselkedésének proaktív szimulálását az ellenféléhez hasonló taktikák és technikák alkalmazásával a rendszer sérülékenységeinek
Read More
Nagy nyelvi modellek támadó biztonsági képességeinek értékelése
A Project Zero folyamatosan bővíti a sebezhetőségi kutatások hatókörét és hatékonyságát. Bár munkájuk nagy része még mindig olyan hagyományos módszerekre
Read More