Virtual Manipulation Brief
A StratComCOE Virtuális manipuláció jelentése a generatív mesterséges intelligencia hatását vizsgálja a közösségi médiaelemzés vonatkozásában. A nagy nyelvi modellek (LLM), mint például a nagy teljesítményű GPT-4, rendkívül meggyőző, legitimnek és egyedinek tűnő tartalmakat hozhatnak létre. Ez szinte lehetetlenné teszi a valódi és a hamisított fiókok megkülönböztetését. A védelmi oldalról azonban ugyanezek az eszközök alkalmazhatóak a közösségi médiafelületek hatékonyabb ellenőrzésére. Az ellenfelek gondatlan implementációi olyan gyengeségeket vezetnek be, amelyek azt eredményezhetik, hogy a fiókok véletlenül felfedik, hogy botok. Mivel az LLM-ek prompt-okra támaszkodnak a kimenetük alakításában, a célzott pszichológiai műveletek arra késztethetik a chatbotokat, hogy felfedjék valódi identitásukat. A manipuláció elleni küzdelem új szakaszba lép, de továbbra sem világos, hogy hosszú távon a védők vagy a támadók fognak-e nagyobb hasznot húzni az AI-rendszerekből.