Sleepy pickle
A Trail of Bits kutatói kifejlesztettek egy új hibrid gépi tanulási (ML) modellhasznosítási technikát, az úgynevezett Sleepy Pickle-t, amely kihasználja az ML-modellek csomagolására és terjesztésére használt, elterjedt és közismerten bizonytalan Pickle fájlformátumot. Az Sleepy Pickle túlmutat a korábbi kihasználási technikákon, amelyek egy szervezet rendszereit célozzák meg, amikor azok ML-modelleket telepítenek, és ehelyett titokban magát az ML-modellt veszélyeztetik, lehetővé téve a támadó számára, hogy a szervezetnek a modellt használó végfelhasználóit célozza meg. A Trail of Bits három olyan támadást mutat be, amelyek veszélyeztetik a végfelhasználók biztonságát, védelmét és adatvédelmét.
A pickle egy beépített Python szerializációs formátum, amely Python objektumokat ment és tölt be adatfájlokból. A pickle fájl futtatható bájtkódból (opkódok sorozatából) áll, amelyet egy virtuális gép, a pickle VM értelmez. A pickle VM a natív pickle python modul része, és olyan műveleteket végez a Python-értelmezőben, mint a Python-objektumok rekonstruálása és tetszőleges osztálypéldányok létrehozása.
A Sleepy Pickle úgy működik, hogy egy rakományt beszúr egy pickle fájlba olyan nyílt forráskódú eszközökkel, mint a Fickling, majd a négy technika valamelyikével eljuttatja a célállomáshoz, például a adversary-in-the-middle (AitM) támadása, adathalászat, az ellátási lánc kihasználása, vagy a rendszer egyéb gyengeségének kihasználása.