Idén véget ér a DARPA AI Cyber Challenge
Rob McHenry, a DARPA megbízott igazgatója az RSA 2025 konferencián elmondta, hogy a szoftverfejlesztés és az LLM-ek integrációja „gyakorlatilag kiküszöbölheti
Read More
LLM
LLM-ek megkerülése prompt injection-nel
Minden nagyobb generatív mesterséges intelligenciamodell kifejezetten arra van tanítva, hogy elutasítson minden olyan felhasználói kérést, amely káros tartalmak létrehozására utasítja
Read More
Irán mesterséges intelligencia ambíciói
Irán felismerte, hogy a mesterséges intelligencia (AI) létfontosságú szerepet fog játszani jövőbeli gazdasági életképességében, regionális befolyásában és nemzetbiztonságában, és megkezdte
Read More
Memory INJection Attack
A MINJA (Memory INJection Attack) egy új támadási forma, amelyet kutatók fejlesztettek ki a nagy nyelvi modellekre (LLM-ekre) épülő agentek memóriájának manipulálására. Ez
Read More
12,000 API kulcs és jelszó a DeepSeek tanítási adataiban
A Truffle Security közölte, hogy letöltött egy 2024. decemberi archívumot a Common Crawlból. A hatalmas adathalmaz több mint 250 milliárd
Read More
OWASP GenAI Red Teaming útmutató
Ahogy a generatív mesterséges intelligencia technológiák, mint például a nagy nyelvi modellek (LLM), rohamos sebességgel fejlődnek, az általuk eredményezett biztonsági
Read More
Az AI által generált kódok kiberbiztonsági kockázatai
A legújabb fejlesztések javították a nagy nyelvi modellek (LLM) és más mesterséges intelligencia rendszerek kódgenerálási képességét. Bár ez ígéretes a
Read More
Azure AI védőkorlátok megkerülése
A Mindgard kutatói kritikus sérülékenységeket fedeztek fel a Microsoft Azure AI Content Safety szolgáltatásában, ami lehetővé teszi a rosszindulatú szereplők
Read More
A mesterséges intelligencia felhasználása az offenzív biztonságban
A támadó biztonság magában foglalja a támadó viselkedésének proaktív szimulálását az ellenféléhez hasonló taktikák és technikák alkalmazásával a rendszer sérülékenységeinek
Read More
Nagy nyelvi modellek támadó biztonsági képességeinek értékelése
A Project Zero folyamatosan bővíti a sebezhetőségi kutatások hatókörét és hatékonyságát. Bár munkájuk nagy része még mindig olyan hagyományos módszerekre
Read More