Kiberbiztonság ma: Instagram törés AI chatboton keresztül

A Meta által bevezetett, mesterséges intelligenciával működő ügyfélszolgálati chatbot súlyos biztonsági hibája miatt feltehetően iráni hackerek több nagy értékű Instagram-fiókot is át tudtak venni, pusztán azzal, hogy „megkérték” az MI-t a hozzáférés módosítására. Az eset újabb figyelmeztetés arra, hogy az AI-alapú automatizálás milyen kockázatokat hordozhat, ha érzékeny biztonsági folyamatokat bíznak rá megfelelő ellenőrzések nélkül.

A támadók kihasználták, hogy a Meta AI Support Assistant képes volt fiók-helyreállítási műveleteket végrehajtani. A chatbotot arra vették rá, hogy egy célpont Instagram-fiókjához új e-mail címet kapcsoljon. Miután az MI erre a címre küldött egy ellenőrző kódot, a támadók azt visszaadták a chatbotnak, amely ezt követően felajánlotta a jelszó visszaállításának lehetőségét. Így a támadók a fiók eredeti e-mail címének vagy jelszavának ismerete nélkül is átvehették az irányítást.

A kompromittált fiókok között több kiemelt profil is szerepelt: a Barack Obama elnöksége idején használt Fehér Ház Instagram-fiók, a Sephora kozmetikai vállalat oldala, valamint az amerikai Űrhaderő egyik vezető altisztjének profilja. Egyes jelentések szerint biztonsági kutatók és ritka, nagy értékű felhasználónevekkel rendelkező fiókok tulajdonosai is áldozatul estek. A megszerzett fiókok egy részét később Telegram-csatornákon értékesítésre kínálták.

A támadás technikailag nem a Meta háttérrendszereinek feltörését jelentette, hanem egy klasszikus „prompt injection” és social engineering kombinációját. A chatbot egyszerűen nem rendelkezett megfelelő ellenőrzési mechanizmusokkal ahhoz, hogy megállapítsa, valóban a fiók tulajdonosa kér-e módosítást. Több beszámoló szerint a támadók VPN-eket is használtak, hogy földrajzi helyzetüket a célpontokéhoz hasonlónak mutassák.

A Meta közlése szerint a hibát gyorsan javították, és megkezdték az érintett fiókok helyreállítását. A vállalat hangsúlyozta, hogy nem történt belső rendszerkompromittáció, ugyanakkor az incidens komoly kérdéseket vet fel az AI-alapú ügyfélszolgálatok biztonságával kapcsolatban.

A történet egyik legfontosabb tanulsága, hogy az MI kiválóan alkalmas lehet egyszerű támogatási feladatokra, de az identitásellenőrzést, a hozzáférés-kezelést és a fiók-helyreállítást nem szabad teljesen automatizálni. A szakértők szerint az ilyen rendszereknek emberi felügyeletre, többlépcsős hitelesítésre és szigorú jogosultságkezelésre van szükségük, különben a támadók ugyanúgy manipulálhatják őket, mint egy tapasztalatlan ügyfélszolgálati munkatársat.

A videót egyébként a DigitalTech EDIH 2.0 projektnyitó rendezvényén vettem fel. Bővebb információk a projektről a https://digitaltechedih.hu oldalon érhetők el.

Forrás:
INSTAGRAM ACCOUNT HIJACKS EXPOSE THE SECURITY RISKS OF AI-POWERED SUPPORT: https://securityaffairs.com/193034/hacking/instagram-account-hijacks-expose-the-security-risks-of-ai-powered-support.htmlThe Prof and The GeekRead More