Slopsquatting
A slopsquatting egy új típusú ellátási lánc támadás, amely a generatív mesterséges intelligencia (AI) modellek által generált nem létező szoftvercsomagok kihasználásán alapul. A kifejezést Seth Larson biztonsági kutató alkotta meg, utalva arra, hogy a AI modellek gyakran hallucinálnak – azaz olyan csomagneveket javasolnak, amelyek valójában nem léteznek. Ezt a jelenséget kihasználva a támadók regisztrálhatják ezeket a nem létező csomagneveket, és rosszindulatú kódot helyezhetnek el bennük. Amikor a fejlesztők vagy AI-asszisztensek ezeket a csomagokat próbálják telepíteni, a rosszindulatú kód automatikusan letöltődik és fut, veszélyeztetve a rendszert.
A tanulmányban, amely 16 különböző kódgeneráló AI modellt vizsgált, megállapították, hogy az ajánlott csomagok körülbelül 20%-a nem létezett. A nyílt forráskódú modellek, mint például a CodeLlama, még magasabb arányban generáltak nem létező csomagneveket, míg a kereskedelmi modellek, mint a GPT-4, alacsonyabb arányban.
Egy konkrét esetben a huggingface-cli nevű csomag, amelyet egy AI-asszisztens javasolt, valójában nem létezett. Ezt kihasználva egy kutató regisztrálta a csomagnevet, és megfigyelte, hogy több szervezet, köztük az Alibaba, is hivatkozott rá dokumentációiban, anélkül hogy észrevették volna, hogy a csomag hamis.
