A generatív mesterséges intelligenciával való visszaélések
A mesterséges intelligencia nem csak a kiberbiztonság, hanem a gazdaság és nemzetbiztonság szempontjából is hatalmas lehetőségeket rejt magában. Amerika jelenleg élen jár a mesterséges intelligencia versenyében, de ahhoz, hogy megőrizze ezt az előnyét, megerősítse a nemzetbiztonságot és megragadja az előttünk álló lehetőségeket, együtt kell működnie az iparnak és a kormányzatnak. A Google új ajánlásokat tett közzé a politikai döntéshozók számára, többek között egy fenyegetéskutatást a genAI rosszindulatú felhasználásáról.
A Google elemezte az ismert APT-szereplőkkel kapcsolatos Gemini-tevékenységeket, és több mint 20 országból származó APT-csoportot azonosított, amelyek a Geminit használták. A legnagyobb volumenű felhasználás Iránból és Kínából származott. Az APT csoportok a támadási ciklus több fázisának megerősítésére igyekeztek használni az eszközeit, beleértve a kódolási és szkriptelési feladatokat, a payload fejlesztését, a potenciális célpontokról való információgyűjtést, a nyilvánosan ismert sérülékenységek kutatását, valamint a post-compromise tevékenységek, például a védelem megkerülésének lehetővé tételét. A Google megjegyezte, hogy látott olyan underground fórumbejegyzéseket, amelyek a nagy nyelvi modellek (LLM) olyan változatait hirdették, amelyek minden biztonsági vagy etikai megkötés nélkül képesek válaszokat generálni.
Az Information Operation (IO) szereplők a Geminit kutatásra, tartalomgenerálásra – beleértve a személyiségek és üzenetek kidolgozását -, fordításra és lokalizációra, valamint arra használták, hogy megtalálják a hatókörük növelésének módjait. Az iráni IO-szereplők voltak a Gemini legjelentősebb felhasználói, akik az IO-szereplők AI eszközhasználatának háromnegyedét tették ki. A Google szerint a kínai és orosz IO-szereplők elsősorban általános kutatásra és tartalomkészítésre használják a Geminit.
