Mesterséges intelligencia incidens adattár
A Védelmi Minisztérium jelenleg egy új incidens-adattár létrehozásának dolgozik, amely a mesterséges intelligenciával kapcsolatos problémákat fogja katalogizálni. A fejlesztési erőfeszítést egy új eszközlista említi, amelyet a minisztérium a héten tett közzé a Tradewind weboldalán bemutatott szélesebb körű mesterséges intelligencia “eszköztár” részeként. A felelős mesterséges intelligencia (Responsible Artificial Intelligence – RAI) eszköztár egy olyan központosított folyamatot biztosít, amely azonosítja, nyomon követi és javítja a mesterséges intelligencia projektek összehangolását a RAI legjobb gyakorlatokkal és a DoD AI etikai elveivel.
A listán szereplő mintegy 70 tétel között szerepel egy AI Incident Repository, amely egyelőre nem elérhető a minisztérium munkatársai számára, mivel még fejlesztés alatt áll. Amint elkészül és működik, a Pentagon szerint az AI incidensek és hibák gyűjteményét fogja tartalmazni a felülvizsgálat és a technológia jövőbeli fejlesztésének javítása céljából. Az új eszköztár már tartalmaz linkeket egy nyílt forráskódú adatbázishoz, amely a mesterséges intelligencia rendszerek alkalmazása által a valós világban bekövetkezett károk vagy majdnem bekövetkezett károk kollektív történetének indexelését célozza. A légiközlekedés és az informatikai biztonság hasonló adatbázisaihoz hasonlóan az AI Incident Database célja, hogy tanuljunk a tapasztalatokból, hogy megelőzhessük vagy enyhíthessük a rossz kimeneteleket” – olvasható a honlapon. Az ilyen incidensekre példaként említhetők többek között a gyalogosokat elütő autonóm járművek és a hibás arcfelismerő rendszerek.