Az OpenAI 20 globális rosszindulatú kampányt blokkolt
Az OpenAI 2024. október 9-én közölte, hogy az év eleje óta világszerte több mint 20 olyan műveletet és megtévesztő hálózatot zavart meg, amelyek rosszindulatú célokra próbálták felhasználni platformját. Ez a tevékenység magában foglalta a rosszindulatú szoftverek hibakeresését, cikkek írását weboldalak számára, életrajzok generálását közösségi média fiókokhoz, valamint mesterséges intelligencia által generált profilképek készítését hamis fiókokhoz az X-en. „A fenyegető szereplők folyamatosan fejlődnek és kísérleteznek a modelljeinkkel, de nem láttunk bizonyítékot arra, hogy ez jelentős áttörést eredményezett volna a lényegesen új rosszindulatú programok létrehozásában” – mondta a mesterséges intelligenciával (AI) foglalkozó vállalat.
Azt is elmondták, hogy megzavarták az olyan tevékenységeket, amelyek az Egyesült Államokban, Ruandában, valamint kisebb mértékben Indiában és az Európai Unióban tartott választásokhoz kapcsolódó közösségi médiatartalmakat generáltak, és hogy ezek a hálózatok egyike sem vonzott jelentős közönséget tartósan. Ezek közé tartoztak a STOIC nevű izraeli kereskedelmi vállalat (más néven Zero Zeno) által végzett erőfeszítések is, amelyek az indiai választásokkal kapcsolatos közösségi médiakommentárokat generáltak, amint azt a Meta és az OpenAI korábban, idén májusban nyilvánosságra hozta.
Az OpenAI által kiemelt kiberműveletek közül néhány:
- SweetSpecter, egy feltételezett kínai szereplő, amely a mesterséges intelligencia modelleket LLM-alapú felderítésre, sérülékenység kutatásra, szkript-támogatásra, anomália-érzékelés megkerülésére és fejlesztésre használta. Megfigyelték azt is, hogy sikertelen spear-phishing kísérleteket hajtott végre az OpenAI alkalmazottai ellen, amelynek célja a SugarGh0st RAT terjesztése volt.
- Cyber Av3ngers, az iráni Iszlám Forradalmi Gárdához (IRGC) kapcsolódó csoport, amely a mesterséges intelligencia modelleket a programozható logikai vezérlőkkel (PLC) kapcsolatos kutatásokra használta.
- Storm-0817, egy iráni kiberszereplő, amely AI-modelljeit érzékeny információk begyűjtésére alkalmas Android malware-ek, illetve LinkedIn-profilok perzsa nyelvre fordítására használták.
