Meta 2024 Q1 Adversarial Threat Report
A Meta hat új kampányt zavart meg, amelyek hamis fiókok és mesterséges intelligencia által generált tartalmak segítségével próbálták befolyásolni a közvéleményt a technológiai óriás platformjain. A Meta ezeket a fenyegetéseket Coordinated Inauthentic Behaviornak (CIB) nevezi, amelyet úgy definiál, mint a “nyilvános vita stratégiai célú manipulálására irányuló összehangolt erőfeszítéseket”, amelyekben a fő stratégiaként több ezer hamis fiókot használnak.
A jelentés szerint a Meta sikeresen azonosított és megzavart hat új kampányt, amelyek Bangladesből, Kínából, Horvátországból, Iránból, Izraelből, valamint egy Moldovát és Madagaszkárt célzó CIB-hálózatot. Számos ilyen kampányt még a közönségépítésre irányuló erőfeszítéseik korai szakaszában felderítettek és eltávolítottak.
Bár sokan hatalmas fenyegetést látnak a mesterséges intelligenciában, a Meta nem azonosított egyetlen ellenőrizhetetlen, mesterséges intelligencia által vezérelt kampányt sem.
Eddig nem láttunk olyan újszerű GenAI-vezérelt taktikákat, amelyek akadályoznák a mögöttük álló ellenséges hálózatok megzavarását – írja a Meta a jelentésben. Egyelőre nem láttuk, hogy a fenyegető szereplők szélesebb körű trendként használnák a politikusokról készült, AI által generált fotórealisztikus médiát.
A Meta jelentése olyan eseteket jegyzett fel, amikor a mesterséges intelligenciát fotók és képek, mesterséges intelligenciával generált videóhír-olvasók és szöveggeneráláshoz használták.
A mesterséges intelligencia használatára példa egy Kínából származó megtévesztő hálózat, amely mesterséges intelligenciával generált plakátképeket osztott meg egy fiktív szikh-párti aktivista mozgalom, az Operation K számára.
Egy izraeli székhelyű CIB-hálózat valószínűsíthetően mesterséges intelligencia által generált kommenteket tett közzé médiaszervezetek és közszereplők oldalai alatt. Ezek a kommentek a művelet honlapjaira mutató linkeket tartalmaztak, és gyakran kritikus válaszokat kaptak a valódi felhasználóktól, akik propagandának nevezték őket.