Echo Chamber
Az Echo Chamber egy új, rendkívül kifinomult jailbreak technika, amely a legfejlettebb nagy nyelvi modellek (LLM-ek) biztonsági korlátait kísérti. A
Read More
LLM
Atari Video Chess vs ChatGPT
Egy meglepő kísérletben Robert Caruso, a Citrix mérnöke összehasonlította az Atari 2600 Video Chess játékát egy modern ChatGPT‑4o modell által
Read More
Gondolkodás illúziója
Apple kutatásában elismeri, hogy az érvelő gondolkodásra épülő mesterséges intelligencia modellek – például az o3‑mini, DeepSeek‑R1 és Claude – nem képesek
Read More
OWASP Top 10 for LLM Applications projekt
Az OWASP Top 10 for Large Language Model Applications projekt célja, hogy felhívja a figyelmet a nagy nyelvi modellek (LLM)
Read More
Idén véget ér a DARPA AI Cyber Challenge
Rob McHenry, a DARPA megbízott igazgatója az RSA 2025 konferencián elmondta, hogy a szoftverfejlesztés és az LLM-ek integrációja „gyakorlatilag kiküszöbölheti
Read More
LLM-ek megkerülése prompt injection-nel
Minden nagyobb generatív mesterséges intelligenciamodell kifejezetten arra van tanítva, hogy elutasítson minden olyan felhasználói kérést, amely káros tartalmak létrehozására utasítja
Read More
Irán mesterséges intelligencia ambíciói
Irán felismerte, hogy a mesterséges intelligencia (AI) létfontosságú szerepet fog játszani jövőbeli gazdasági életképességében, regionális befolyásában és nemzetbiztonságában, és megkezdte
Read More
Memory INJection Attack
A MINJA (Memory INJection Attack) egy új támadási forma, amelyet kutatók fejlesztettek ki a nagy nyelvi modellekre (LLM-ekre) épülő agentek memóriájának manipulálására. Ez
Read More
12,000 API kulcs és jelszó a DeepSeek tanítási adataiban
A Truffle Security közölte, hogy letöltött egy 2024. decemberi archívumot a Common Crawlból. A hatalmas adathalmaz több mint 250 milliárd
Read More
OWASP GenAI Red Teaming útmutató
Ahogy a generatív mesterséges intelligencia technológiák, mint például a nagy nyelvi modellek (LLM), rohamos sebességgel fejlődnek, az általuk eredményezett biztonsági
Read More