Viime vuosina olemme siirtyneet pitämään droneja yksinkertaisena huipputeknologinen lelu videoiden tallennukseen tehdäkseen niistä keskeisen työkalun turvallisuuden, valvonnan ja jopa aseellisten konfliktien alalla. Ja kuten usein käy minkä tahansa nopeasti yleistyvän teknologian kohdalla, turvallisuus- ja suojelunäkökohdat eivät aina kehity samaan tahtiin.
Tässä yhteydessä Kalifornian yliopiston Irvinestä kotoisin oleva tutkijaryhmä on osoittanut jotakin, mikä kuulostaa vitsiltä, mutta on kaikkea muuta: Tiettyjä autonomisia droneja on mahdollista houkutella ja neutraloida käyttämällä vain tietyn väristä kuviointia omaavaa sateenvarjoa.Ei radiohäirintälaitteita, ei etähakkerointia, ei monimutkaisia aseita. Vain "outo" sateenvarjo ja hieman käänteistä tekniikkaa siitä, miten nämä laitteet havaitsevat maailman.
Miksi autonomiset droonit aiheuttavat yhä enemmän huolta
Droonien nousu ei suinkaan rajoitu vain vapaa-aikaan. Kiina, Venäjä, Yhdysvallat ja muut maat He ajavat aggressiivisesti miehittämättömien ilma-alusten kehittämistä, jotka on varustettu tekoälyjärjestelmillä, jotka kykenevät tekemään itsenäisiä päätöksiä. Emme puhu enää vain vaikuttajille tarkoitetuista lentävistä kameroista, vaan autonomisista alustoista, joissa on taktisia ja valvontasovelluksia.
Hyvin selkeä esimerkki löytyy sodasta Venäjä ja Ukrainajossa on otettu käyttöön kaikenlaisia droneja: kamikaze-laitteita, seurantayksiköitä, valokuitukaapeleihin kytkettyjä järjestelmiä tiedonsiirron parantamiseksi jne. Tähän lisätään tieteiskirjallisuuden rajoilla olevia kehityskulkuja, kuten venäläiset kokeet väitetyillä kyyhkyset muuttuivat biodrooneiksi, jotka havainnollistavat sitä, missä määrin jotkut toimijat ovat valmiita tutkimaan mitä tahansa teknologista keinoa saadakseen etua taistelukentällä.
Ongelmana on, että sama teknologia, siirrettynä siviilisektorille, avaa oven paljon epämukavammille skenaarioille: ihmisten jatkuva valvonta, luvaton automaattinen seuranta, tiedonkeruu arkaluontoisissa paikoissa tai yksinkertaisesti tunkeutuminen kenen tahansa jokapäiväiseen yksityisyyteen, joka kohtaa tällaisen laitteen väärään aikaan.
Autonomisilla seurantatoiminnoilla varustettujen droonien massakäyttö esimerkiksi yksityisen turvallisuuden alalla rajavalvontaVäkijoukonhallinta tai kriittisen infrastruktuurin partiointi laajentaa niiden toimintamahdollisuuksia... mutta samalla moninkertaistaa riskivektorit. Ei vain siksi, että droonit voivat toimia virheellisesti, vaan koska niitä voidaan manipuloida, huijata tai käyttää niitä käyttäviä vastaan.
Tässä tilanteessa on käymässä selväksi, ettei viestinnän salaaminen tai radiotaajuusalueiden suojaaminen riitä. Todellinen taistelu käydään myös fyysisellä kentällä, siinä, miten näkö- ja tekoälyalgoritmit tulkitsevat dronin kameran läpi näkemää ja miten ne reagoivat hämmentämään suunniteltuihin visuaalisiin kuvioihin.
UC Irvine -tutkimus: sateenvarjo tekoälyä vastaan
Uuden hyökkäyslennokin kehittämisen sijaan tiimi Kalifornian yliopisto, Irvine (UC Irvine) Hän päätti lähestyä ongelmaa toiselta puolelta: miten fyysisesti suojautua tekoälypohjaisilta autonomisilta seurantajärjestelmiltä. Hänen tavoitteensa oli selvä: parantaa niin sanottua "fyysistä kyberturvallisuutta" arkipäiväisiä ja edullisia esineitä, ilman erikoislaitteistoa tai edistynyttä hakkerointiosaamista.
Tutkimuksensa aikana asiantuntijat analysoivat perusteellisesti, miten moniin kaupallisiin droneihin sisäänrakennetut seuranta-algoritmit toimivat. He keskittyivät erityisesti toimintoihin, jotka tunnetaan kaupallisesti nimellä Active Track, Dynamic Track tai muut vastaavat järjestelmätjoiden avulla drone voi seurata henkilöä tai esinettä automaattisesti tietokonenäön avulla ilman, että lentäjän tarvitsee säätää lentorataa manuaalisesti koko ajan.
Useiden kokeiden jälkeen he löysivät yllättävän yksinkertaisen heikkouden: tietyt droonimallit, jotka toimivat Kohteen seuranta neuroverkkojen ja kuvaliikeanalyysin avulla Ne voidaan sekoittaa, jos niille esitetään hyvin spesifinen visuaalinen kuvio. Tämä menetelmä nimettiin nimellä kärpäsloukku, "kärpäsloukku", viitaten tapaan, jolla se houkuttelee dronin asentoon, jossa se voidaan kaapata tai ampua alas.
Tapauksessa silmiinpistävintä on se, että FlyTrapin käytännön toteutus tehtiin käyttämällä niinkin yleistä esinettä kuin sateenvarjoa. Leimaamalla sopiva visuaalinen kuvio sateenvarjon pintaan Ja kun avaat sen dronen edessä, seuranta-tekoäly tulkitsee kuvan muutoksia, jotka saavat sen uskomaan kohteen liikkuvan poispäin, vaikka sitä pitelevä henkilö on paikallaan.
Tulokset esiteltiin kansainvälisessä tietoturvaan (NDSS) erikoistuneessa konferenssissa, jossa yksityiskohtaisesti todettiin, että tämä lähestymistapa ei ole pelkkä laboratoriossa tehty kuriositeetti. Testit osoittivat, että fyysinen hyökkäys toimii vaihtelevissa olosuhteissavalaistuksen ja sään muutoksilla, mikä tuo sen vaarallisen lähelle todellista käyttötilannetta valvotun ympäristön ulkopuolella.
Miten FlyTrap-hyökkäys toimii askel askeleelta (käsitteellisellä tasolla)
Ymmärtääksemme, miksi sateenvarjo voi asettaa autonomisen dronin vaikeaan asemaan, meidän on tarkasteltava, miten kohteen seurantajärjestelmät perustuvat keinotekoinen visioPohjimmiltaan drone tallentaa jatkuvasti kuvia ympäristöstään ja yrittää neuroverkkojen ja liikeanalyysialgoritmien avulla paikantaa kohteen, jota sen tulisi seurata kussakin kuvassa.
Nämä algoritmit keskittyvät muodon, värin, kontrastin ja liikkeen kuviot arvioidakseen kohteen sijainnin nykyisessä kuvassa suhteessa edelliseen. Näiden tietojen perusteella ne laskevat, lähestyykö kohde, liikkuuko se poispäin, siirtyykö sivuun, piiloutuuko esteen taakse jne. Sitten drooni säätää nopeuttaan ja lentorataansa pitääkseen kohteen kuvassa "optimaaliseksi" katsotulla etäisyydellä.
FlyTrap-hyökkäys hyödyntää juuri tätä logiikkaa. Sateenvarjolle suunniteltu graafinen kuvio saa sen luomaan kuvioita, kun drone liikkuu edes vähän tai muuttaa katselukulmaansa. kohteen mittakaavan ja sijainnin ilmeiset muutokset jonka algoritmi tulkitsee jatkuvaksi poispäin suuntautuvaksi liikkeeksi. Tekoäly uskoo kohteen liikkuvan taaksepäin, vaikka todellisuudessa se seisoo paikallaan.
Mitä drone sitten tekee? Kompensoidakseen tätä oletettua etäisyyttä, vähennä etäisyyttä vähitellenYritetään "päästä lähemmäs" kohdetta, jotta kuva-alue pysyy seurantajärjestelmän sisäisten sääntöjen mukaisena. Tuloksena on, että lentokone ajautuu yhä aggressiivisempaan lähestymisspiraaliin... kunnes se pääsee vaarallisen lähelle sateenvarjoa ja sitä kantavaa henkilöä.
Kun drooni on hyvin lähellä, hyökkääjällä on erittäin edullinen marginaali: he voivat kaapata se verkolla, lyödä sitä, horjuttaa sitä tai saada se törmäämään lähellä olevaa pintaa vasten. Toisin kuin muut puolustusmenetelmät, joiden ainoa tarkoitus on saada drone menettämään kohteensa tai lopettamaan seuranta, FlyTrapin avulla voit viedä sen ihanteelliseen asentoon fyysistä neutralointia varten.
Vaikutuskohteena olevat droonimallit ja ongelman todellinen laajuus
UC Irvine -yliopiston tutkijat eivät pysähtyneet simulaatioihin; he testasivat tekniikkaansa oikeita kaupallisia dronejaOnnistuneesti arvioitujen mallien joukossa ovat:
- DJI Mini 4 Pro
- DJI Neo
- Leijuva ilma X1
Kaikissa näissä laitteissa on konenäköön perustuvat automaattiset seurantatoiminnot, jotka teoriassa on suunniteltu helpottamaan dynaamisten kuvien ottamista ilman, että lentäjän tarvitsee huolehtia kamerasta. Juuri tuo kyky seurata käyttäjää itsenäisesti Se kääntyy häntä vastaan, kun FlyTrapin kaltainen kaava tulee peliin.
Testeissä droonit veivät puoleensa riittävästi, jotta niiden toiminta olisi kannattavaa. kaappaaminen verkkolaitteilla tai sen hallittu vaikutusToisin sanoen kyse ei ollut vain algoritmin hetkellisestä hämmentämisestä, vaan jatkuvan fyysisen lähestymistavan pakottamisesta, joka jätti laitteen hyökkääjän armoille.
Tutkimuksesta vastaavat tutkijat toimivat kyberturvallisuusyhteisön parhaiden käytäntöjen mukaisesti ja He viestivät haavoittuvuudesta vastuullisesti. asianomaisille valmistajille ennen kaikkien yksityiskohtien julkistamista. Tämä avaa oven DJI:n kaltaisille yrityksille ja muille asianomaisille yrityksille tarkistaa seuranta-algoritmejaan ja toteuttaa vastatoimia tulevissa laiteohjelmistopäivityksissä tai laitteistosukupolvissa.
Näiden tiettyjen mallien lisäksi löydöksellä on kuitenkin paljon laajempia vaikutuksiaMikä tahansa miehittämätön ilma-alusjärjestelmä, joka käyttää neuroverkkoja kohteiden seuraamiseen konenäön avulla, voi olla altis saman lähestymistavan muunnelmille, jos sitä ei ole erityisesti koulutettu vastustamaan tällaisia vihamielisiä toimintamalleja.
Fyysinen hyökkäys, joka ei vaadi radiota, hakkerointia tai häirintää
Yksi FlyTrapin keskeisistä ominaisuuksista on, että se toimii kokonaan fyysinen verkkotunnusSe ei vaadi droonin tietoliikenteeseen puuttumista, sen datalinkkiin pääsyä tai perinteisten ohjelmistohaavoittuvuuksien hyödyntämistä. Hyökkäys toimii, koska se manipuloi sitä, mitä droonin kamera näkee, ja siten sitä, mitä sen tekoälyalgoritmit uskovat tapahtuvan.
Käytännössä tämä tarkoittaa, että hyökkääjän ei tarvitse antaa radiosignaaleja, WiFi, GPS tai vastaavaSe ei myöskään vaadi minkäänlaista yhteyttä drooniin, käyttöoikeuksia tai tunnistetietoja. Se yksinkertaisesti tarkoittaa, että dronelle näytetään fyysinen objekti, joka on suunniteltu hyödyntämään sen kognitiivisia sokeita kulmia, joita on paljon vaikeampi seurata ja estää tavanomaisilla puolustuskeinoilla.
Tämä lähestymistapa sopii ns. vihollisen hyökkäykset fyysisessä maailmassaTämä on yhä tärkeämpi tutkimussuunta. Aivan kuten on kehitetty laseja, t-paitoja tai tarroja, jotka voivat huijata kasvojentunnistusjärjestelmiä tai autonomisia autoja, tässä käytetään sateenvarjoa droonien seuranta-algoritmien hämäämiseen.
Lisäksi kustannukset ovat naurettavan alhaiset verrattuna resursseihin, jotka yleensä liittyvät elektroniseen sodankäyntiin tai miehittämättömien ilma-alusten alasampumiseen. Ei vaadita kalliita laitteita, erikoisantenneja tai asiantuntevaa radiotaajuusosaamista.Tarvitset vain oikeanlaisen sateenvarjon ja jonkin verran taitoa asettua oikeaan paikkaan, kun drone on seurantatilassa.
Tämä epäsymmetria edistyneen dronin hinnan ja sen neutraloimisen kustannusten välillä näin yleisellä esineellä vaikuttaa suoraan siihen, miten meidän tulisi ajatella... kriittisen infrastruktuurin turvallisuus, poliisin sijoitukset tai rajatPahantahtoinen toimija voisi teoriassa tuoda valvontakameroita lähelle rajoitettuja alueita käyttämällä juuri tällaisia tekniikoita ja sitten tehdä ne toimintakyvyttömiksi tai saada ne putoamaan haluamaansa paikkaan.
Turvallisuuteen, yksityisyyteen ja dronejen massakäyttöönottoon liittyvät vaikutukset
Miehittämättömien ilma-alusten yleistyminen, joita käyttävät Inteligencia keinotekoinen Tämä on valtava haaste yleiselle turvallisuudelle. Näemme yhä enemmän hankkeita, joissa ehdotetaan drone-parvien käyttöä kaupunkien partiointiin, rajojen valvontaan tai suurten tapahtumien valvontaan. Mutta UC Irvinen tutkimus osoittaa, että ilman havaintoalgoritmien vahvistamista koko tämä käyttöönotto lepää melko hauraalla pohjalla.
Operatiivisella tasolla FlyTrap-hyökkäystä voitaisiin käyttää sekä hyökkäykseen että puolustukseen. Toisaalta joku voisi neutraloimaan poliisin tai rajavalvontadroonejaTämä vaarantaa turvallisuusjoukkojen reagointikyvyn tietyllä alueella. Toisaalta dronen häiritsemä henkilö tai kaupallisen laitteen avulla vakoilun uhri voisi käyttää samaa mekanismia puolustautuakseen yksinkertaisella muunnellulla sateenvarjolla.
On myös se näkökulma, että strategisen infrastruktuurin suojaaminen (voimalaitokset, liikennelaitokset, datakeskukset jne.). Jos nämä paikat käyttävät autonomisia droneja valvontajärjestelmiensä täydentämiseen, FlyTrapin kaltainen haavoittuvuus avaa riskin, että hyökkääjä voi ohittaa osan havaitsemisjärjestelmästä käyttämällä vain fyysistä esinettä ilman elektronista vuorovaikutusta.
Tutkimus siis lähettää selkeän viestin: Droonien turvallisuutta ei voida rajoittaa elektroniseen tai verkkokerrokseenTietoyhteyksien suojaaminen, viestinnän salaaminen ja ohjelmistojen suojaaminen ovat välttämättömiä, mutta riittämättömiä, jos sateenvarjoon painetut värilliset kuviot hämästävät näköalgoritmeja. Resilienssin on ulotuttava siihen, miten tekoäly tulkitsee fyysistä ympäristöä ja miten se kestää tahallista manipulointia.
Autonomisten dronien käytön yleistyessä kaupunkiympäristöt ja herkät toiminnotTällaiset hyökkäykset lakkaavat olemasta pelkkä akateeminen kuriositeetti, ja niistä tulee tekijä, joka valmistajien, sääntelyviranomaisten ja operaattoreiden on otettava huomioon suunnitteluvaiheesta lähtien. Näiden haavoittuvuuksien huomiotta jättäminen voi olla kallista, kun laajamittainen käyttöönotto on jo tapahtunut.
Hyökkäyksen rajoitukset ja mahdolliset puolustuslinjat
Vaikka ajatus "droonin ampumisesta alas sateenvarjon avulla" on erittäin houkutteleva, ei kannata ajatella, että mikä tahansa värikäs sateenvarjo kelpaa. FlyTrap-kuvio on huolellisesti suunniteltu hyödyntääkseen testattujen algoritmien tiettyjä heikkouksia. Se ei ole universaali temppu, joka toimisi automaattisesti kaikkien droonien kanssa tai kaikissa olosuhteissa.
Lisäksi hyökkäys edellyttää, että drone käyttää toimintoja autonominen näköön perustuva seurantaJos käyttäjä ohjaa sitä kokonaan manuaalisesti tai jos lentokonetta ohjaavat muut anturit (kuten LIDAR, tutka tai edistyneet anturifuusioyhdistelmät), mahdollisuudet hämätä tekoälyä pelkän visuaalisen kuvion avulla voivat pienentyä tai jopa kadota kokonaan.
Toinen käytännön rajoitus on tarve tuo sateenvarjo fyysisesti lähemmäs dronin näkökenttääTilanteissa, joissa laite lentää korkealla tai pysyy useiden kilometrien etäisyydellä kohteesta, läheisyyden saavuttaminen ei välttämättä ole realistista. Kärpäsloukku on erityisen vaarallinen matalalla lentäessä, ihmisten lähellä tai kaupunkiympäristöissä, joissa on kapeita reittejä.
Puolustuksen puolelta on useita mahdollisia toimintalinjoja. Yksi niistä on kouluttaa visiomallit uudelleen Käyttämällä esimerkkejä vihollismalleista, kuten FlyTrap-loukuista, he oppivat tunnistamaan ne poikkeavuuksina ja välttämään hallitsemattoman lähestymisen ansaa. Toinen vaihtoehto on yhdistää visuaalinen informaatio muihin lähteisiin (syvyys, inertia-anturit, 3D-kartat), jotta vältetään pelkästään kameran näkemään tietoon luottaminen.
On myös järkevää ottaa se käyttöön laiteohjelmistossa läheisyysrajoitukset ja lisäturvallisuussäännötNämä toimenpiteet estävät dronea lähestymästä kohdetta tiettyä etäisyyttä lähemmäksi, kun se havaitsee epätavallisia tai epäjohdonmukaisia visuaalisia muutoksia. Tämä ei ehkä poista täysin harhautusta, mutta se vähentäisi todennäköisyyttä, että drone saavuttaa paikan, josta se voidaan helposti pyydystää käsin tai verkolla.
Lopuksi sääntelytasolla elimet, jotka vastaavat droonien sertifioinnista käyttöä varten turvallisuus-, poliisi- tai infrastruktuurivalvonta Niiden on sisällytettävä arviointeihinsa testejä, jotka koskevat tämän tyyppistä fyysistä hyökkäystä. Droonin käyttäminen vuoristomaiseman kuvaamiseen ei ole sama asia kuin sen käyttäminen rajavartiointiin: vaaditun kestävyystason on oltava selvästi erilainen.
Kaikki tämä jättää jälkeensä erikoisen skenaarion: mitä "älykkäämpiä" teemme droneista tekoälyn avulla, Tärkeämpää on ajatella kuin luova hyökkääjä joka yrittää löytää oikoteitä todellisessa maailmassa huijatakseen heitä. Ja siinä päähenkilöksi voi päätyä niin näennäisesti viaton esine kuin värikäs sateenvarjo.
Lyhyesti sanottuna nämä tutkimukset osoittavat, että Autonomisten järjestelmien turvallisuus ei ole pelkästään palomuureja ja salaustamutta myös ymmärtää, miten he havaitsevat ympäristön, mitä oikoteitä heidän algoritminsa käyttävät ja miten yksinkertainen graafinen kuvio voi muuttaa edistyneen miehittämättömän ilma-aluksen yhtä haavoittuvaiseksi kuin hyvin suunniteltuun ansaan houkuteltu kärpänen.