Hogyan változtatja meg a mesterséges intelligencia a kiberfenyegetettséget?
A német Szövetségi Információbiztonsági Hivatal (Bundesamt für Sicherheit in der Informationstechnik – BSI) egy friss kutatásában azt elemezte, hogy a mesterséges intelligencia hogyan befolyásolja a jelenlegi kiberfenyegetettséget. A tanulmány rávilágít arra, hogyan változnak a kibertámadások az újonnan elérhető technológia hatására. Ennek érdekében a jelentés azonosítja a mesterséges intelligenciával támogatott alkalmazásokat, amelyek már ma is hozzáférhetőek támadó célokra, és értékeli, hogy ezek a fenyegetések hogyan alakulhatnak a közeljövőben.
Az úgynevezett generatív mesterséges intelligencia, különösen a nagyméretű nyelvi modellek, csökkenti a kibertámadásokhoz való hozzáférés akadályait, és növeli a digitális térben a rosszindulatú tevékenységek hatókörét, sebességét és hatását. A rosszindulatú szereplők általános termelékenységnövekedése mellett a BSI jelenleg rosszindulatú felhasználást tapasztal, különösen a social engineering és a rosszindulatú kódok generálása terén.
A mesterséges intelligencia lehetővé teszi a minimális idegennyelv-tudással rendelkező támadók számára, hogy kiváló minőségű adathalász üzeneteket hozzanak létre: A csalárd üzenetek felismerésének hagyományos módszerei, például a helyesírási hibák és a szokatlan nyelvhasználat ellenőrzése ezért már nem elegendőek az adathalász-támadások felismeréséhez.
A rosszindulatú programok mesterséges intelligencia általi létrehozása egy lépéssel tovább megy, mint az emberek által végrehajtott kibertámadások támogatása: a nagyméretű nyelvi modellek már képesek egyszerű rosszindulatú kódok írására. Emellett léteznek az első koncepcióbizonylatok, amelyek szerint a mesterséges intelligencia felhasználható a rosszindulatú programok automatikus generálására és mutációjára. Olyan rosszindulatú mesterséges intelligencia-ügynökök azonban, amelyek teljesen önállóan képesek az IT-infrastruktúrákat veszélyeztetni – azaz a támadások teljes automatizálásához vezető mesterséges intelligencia – jelenleg nem állnak rendelkezésre, és a közeljövőben valószínűleg nem is fognak.A mesterséges intelligencia azonban már ma is képes a kibertámadások egyes részeinek automatizálására.
Claudia Plattner, a BSI elnöke: “A mesterséges intelligenciának a kiberfenyegetettségre gyakorolt hatásáról szóló jelenlegi értékelésünkben azt feltételezzük, hogy a közeljövőben nem lesz jelentős áttörés a mesterséges intelligencia, különösen a nagyméretű nyelvi modellek fejlesztése terén. Szövetségi kiberbiztonsági hatóságként a jövőben is folyamatosan a kutatások pulzusán tartjuk és tartjuk a kezünket, és különösen a vállalatoknak és szervezeteknek azt tanácsoljuk, hogy a kiberbiztonságot tekintsék elsődleges prioritásnak. Mindannyiunk számára fontos lesz, hogy lépést tartsunk a támadókkal, azaz növeljük a védelmi intézkedések sebességét és hatókörét: gyorsabb foltozással, informatikai rendszereink keményítésével és a közelgő támadások még korábbi felismerésével. A mesterséges intelligencia már ma is segít ebben. Különösen a nyílt forráskódú projektek esetében lesz kulcsfontosságú, hogy az AI-eszközöket proaktívan, még a rosszindulatú szereplők előtt felhasználjuk. Továbbá a szakképzett munkaerőhiány miatt kulcsfontosságú, hogy az üzleti élet, a tudomány és a politika egyesítse a szaktudását – nemzeti és nemzetközi határokon átívelően.”
A kibervédelmisek is profitálnak a mesterséges intelligencia alkalmazásával elérhető általános termelékenységnövekedésből – például a kódgenerálás, a forráskód sebezhetőségi elemzése, a rosszindulatú programok felderítése vagy a helyzetfelismerés megteremtése terén.