Panda vagy lajhár?

Az elmúlt években szinte mindenki a mesterséges intelligencia kutatásba fektet jelentős összegegeket. A mesterséges intelligencia a gépek emberhez hasonló képességeit jelenti, mint például az érvelés, a tanulás, a tervezés és a kreativitás. Lehetővé teszi a technika számára, hogy érzékelje környezetét, foglalkozzon azzal, amit észlel, problémákat oldjon meg, és konkrét cél elérése érdekében tervezze meg lépéseit. A számítógép nemcsak adatokat fogad (már előkészített vagy összegyűjtött adatokat érzékelőin, például kameráján keresztül), hanem fel is dolgozza azokat, és reagál rájuk.

Az idei International Conference on Learning Representations konferencián a Marylandi Egyetem kutatói egy olyan támadási technikát mutattak be, amely a gyors és érzékeny műveletekre optimalizált mély tanulási modellek lelassítását célozza meg. A DeepSloth  támadás furcsa módon egy olyan  mesterséges intelligencia sebezhetőségét mutatja be, amelyet maguk fejlesztettek ki két évvel korábban.

Az elmúlt években a mesterséges intelligencia és a gépi tanulás kutatói számos technikát fejlesztettek ki a neuronhálózatok gyorsítása és egyben olcsóbbá tétele érdekében. A „több kimeneti architektúrának” nevezett optimalizálási technika leállítja a számításokat, amikor egy neurális hálózat elfogadható pontosságot ér el. A kísérletek azt mutatják, hogy sok bemenet esetén nem kell végigmennie az hálózat minden rétegén, hogy megfelelő döntést hozzon. A többkimeneti neurális hálózatok számítási erőforrásokat takarítanak meg.

2019-ben Yigitan Kaya, Ph.D. a Marylandi Egyetem informatikus hallgatója kidolgozta a Shallow-Deep Networks (sekély mélységű hálózat) elnevezésű több kimenetű technikát, amely akár 50 százalékkal is csökkentheti a neurális hálózatok átlagos következtetési költségeit. Így a rendszer nem „gondolja túl” a problémát, nem végez túl sok számítást, nem pazarol energiát, nem kerül sokba. Ezek az indokok meggyőzték a kutatókat, bár a modell viszonylag új koncepció, de egyre nagyobb az érdeklődés iránta, hiszen olcsóbb. Tudor Dumitras, Kaya kutatási tanácsadója, egyben a Marylandi Kiberbiztonsági Központ tagja kutatást folytatott a gépi tanulási rendszerek biztonsági fenyegetéseiről. Miközben a mély sekély hálózaton együtt dolgozott Kaya-val, Dumitras és kollégái azon kezdtek gondolkodni, hogy a technika milyen módon használható ki.

Dumitras szerint a DeepSloth csak az első támadás, amely ebben a fenyegetési modellben működik, és szerinte pusztítóbb lassulási támadásokat fedeznek fel hamarosan.

FORRÁS:

Yigitcan Kaya, Sanghyun Hong, Tudor Dumitras: Shallow-Deep Networks

Sanghyun Hong, Yigitcan Kaya, Ionut,Vlad Modoranu, Tudor Dumitras: A PANDA? NO, IT’S A SLOTH: SLOWDOWN ATTACKS ON ADAPTIVE MULTI-EXIT NEURAL NETWORK INFERENCE