A kutatók megvizsgálták a mesterséges intelligencia biztonságát a vezető nélküli autókban

A mesterséges intelligencia kulcsfontosságú technológia az önvezető járművek számára. Döntéshozatalra, érzékelésre, prediktív modellezésre és egyéb feladatokra használják. De mennyire sebezhetőek ezek az AI-rendszerek a támadásokkal szemben?

A Buffalo Egyetemen (UB) folyó kutatások ezt a kérdést vizsgálják, és az eredmények arra utalnak, hogy rosszindulatú támadások tönkretehetik ezeket a rendszereket. Lehetséges például, hogy egy jármű láthatatlanná tehető a mesterséges intelligencia által működtetett radarrendszerek számára, ha 3D nyomtatott objektumokat helyeznek el a járművön, amelyek eltakarják az észlelés elől.

A kutatók szerint az ellenőrzött kutatási környezetben végzett kísérletek eredménye nem jelenti azt, hogy a meglévő autonóm járművek nem lennének biztonságosak. Mindazonáltal ez hatással lehet az autóiparra, a technológiai, a biztosítási és más iparágakra, valamint a kormányzati szabályozókra és a döntéshozókra.

„Bár ma még újszerűek, az önvezető járművek a közeljövőben a közlekedés meghatározó formáivá válhatnak” – mondja Chunming Qiao, a SUNY Számítástechnikai és Mérnöki Tanszékének kiváló professzora, aki a munkát vezeti. „Ennek megfelelően biztosítanunk kell, hogy az ezeket a járműveket meghajtó technológiai rendszerek, különösen a mesterséges intelligencia modelljei biztonságban legyenek az ellenséges cselekményektől. Ezen dolgozunk szorgalmasan a Buffaloi Egyetemen.”

Az eredményeket számos tanulmány leírja 2021-ig visszamenően, amikor egy a Proceedings of the 2021 ACM SIGSAC Conference on Computer and Communications Security (CCS) folyóiratban megjelent kutatás mutatja be.  Az újabb példák közé tartozik a Proceedings of the 30th Annual International Conference on Mobile Computing and Networking (közismertebb nevén Mobicom) májusi tanulmánya, valamint az e havi 33. USENIX Security Symposium egy tanulmánya, amely az arXiv rendszeren érhető el.

Az mmWave érzékelés hatékony, de sérülékeny

Az elmúlt három évben Yi Zhu és Qiao csapatának többi tagja tesztelt egy autonóm járművet az UB északi kampuszán.

Zhu, a kiberbiztonság specialistája, a fent említett cikkek elsődleges szerzője, amelyek a lidarok, radarok és kamerák, valamint az ezeket az érzékelőket összekapcsoló rendszerek sebezhetőségére összpontosítanak.

„Az autonóm vezetés során a milliméterhullámú [mmWave] radar széles körben elterjedt az objektumok észlelésére, mivel esőben, ködben és rossz fényviszonyok között megbízhatóbb és pontosabb, mint sok kamera” – mondja Zhu. – „De a radar digitálisan és személyesen is feltörhető.”

Ennek az elméletnek az egyik ilyen tesztje során a kutatók 3D nyomtatókat és fémfóliákat használtak bizonyos geometriai formájú tárgyak előállítására, amelyeket „csempemaszkoknak” neveztek. Ha két csempemaszkot helyeztek el egy járműre, azt találták, hogy félrevezethetik az AI-modelleket a radarészlelésben, így ez a jármű eltűnik a radarról.

A támadás motiváló tényezői közé tartozhat a biztosítási csalás, és az AV-verseny

Zhu megjegyzi, hogy bár a mesterséges intelligencia rengeteg információt képes feldolgozni, összezavarodhat, és helytelen információkat közölhet, ha speciális utasításokat kap, amelyek kezelésére nem lett kiképezve.

„Tegyük fel, hogy van egy képünk egy macskáról, és a mesterséges intelligencia pontosan tudja azonosítani, hogy ez macska. De ha megváltoztatunk néhány pixelt a képen, akkor az AI azt gondolhatja, hogy ez egy kutya képe” – mondja Zhu. „Ez a mesterséges intelligencia átverésének példája. Az elmúlt években a kutatók számos átverési példát találtak vagy terveztek különböző AI-modellekhez. Feltettük magunknak a kérdést: lehetséges-e példákat tervezni az AI-modellekre autonóm járművekben? ”

A kutatók megjegyezték, hogy a potenciális támadók titokban ráragaszthatnak egy megtévesztő tárgyat a járműre, mielőtt a vezető megkezdi az utazást, ideiglenesen leparkol, vagy megáll egy közlekedési lámpánál. Még egy tárgyat is elhelyezhetnek valamiben, amit egy gyalogos visel, például egy hátizsákba, ami hatékonyan gátolja meg a gyalogos észlelését, mondja Zhu.

Az ilyen támadások lehetséges motivációi közé tartozik a biztosítási csalás miatti balesetek előidézése, az autonóm vezetéssel foglalkozó társaságok közötti verseny, vagy a személyes vágy, hogy megsebesítsék egy másik jármű vezetőjét vagy utasait.

A kutatók szerint fontos megjegyezni, hogy a szimulált támadások feltételezik, hogy a támadó teljes mértékben ismeri az áldozat járművének radarobjektum-érzékelő rendszerét. Bár ezeknek az információknak a megszerzése lehetséges, a nyilvánosság körében nem túl valószínű.

A biztonság elmarad a többi technológia mögött

A legtöbb AV biztonsági technológia a jármű belső részére összpontosít, míg kevés tanulmány foglalkozik a külső fenyegetésekkel, mondja Zhu.

„A biztonság valahogy lemaradt a többi technológia mögött” – mondja.

Miközben a kutatók vizsgálták az ilyen támadások megállításának módjait, még nem találtak határozott megoldást.

„Úgy gondolom, hogy hosszú utat kell megtenni egy tévedhetetlen védelem megteremtéséig” – mondja Zhu. „A jövőben nem csak a radarok, hanem más szenzorok, például a kamera és a mozgástervezés biztonságát is szeretnénk megvizsgálni. Reméljük, hogy néhány védelmi megoldást is kifejlesztünk a támadások mérséklésére.”

Forrás: techxplore.com

Lépjen kapcsolatba velünk

Budapest, Than Károly u. 3, 1119
(1) 371 5936