Vašingtono, Mičigano ir dar kelių Jungtinių Valstijų universitetų mokslininkai tvirtina radę būdą, kaip pergudrauti savivaldžius automobilius – tereikia lipdukų ant kelio ženklų.
Tik šiek tiek pakeistas ženklas gali pridaryti didelių problemų savivaldžiams automobiliams
© Tyrimo autorių nuotr.

Tyrimą ekspertai pradėjo analizuodami algoritmą, kuriuo tokių automobilių aplinkos stebėjimo sistema naudojasi vaizdų klasifikavimui. Buvo simuliuojamos įvairios manipuliacijos kelio ženklų tema, siekiant išsiaiškinti, kokiu atveju savarankiškas automobilis gali juos neteisingai suprasti. Pavyzdžiui, ekspertai pagamino specialių lipdukų, kuriais apklijavo kelio ženklus.

Tik pagalvokite – savarankiško automobilio vaizdų apdorojimo sistema neteisingai supranta greičio ribojimo ženklą ir nepriima reikiamo sprendimo. Tokia situacija gali baigtis tragedija, skelbia autoblog.com

Tyrimo, pavadinto „Robust Physical-World Attacks on Machine Learning Models“, autoriai pademonstravo kelis skirtingus būdus, kaip sutrikdyti savarankiškus automobilius ir priversti juos neteisingai skaityti kelio ženklus. Tam jie pasitelkė paprasčiausią spalvotą spausdintuvą ir kamerą.

Kalbant apie šiuos eksperimentus, didžiausią nerimą kelia tai, kad žmogaus akims tokios manipuliacijos neatrodo kažkuo išskirtinės, nes pateikiamos tarsi grafitis, meno kūrinys ar tiesiog elementai, inkorporuojami į kelio ženklo vaizdinį apipavidalinimą.

Detaliau aptarkime ekspertų eksperimentui panaudotus metodus. Pirmojo metu visas kelio ženklas buvo uždengtas atspausdinta modifikuota jo versija. Žmogaus akiai jis atrodo tarsi normalus, tačiau keliose vietose vaizdas kiek išplaukęs. Autonomiškam automobiliui kilo žymiai rimtesnių bėdų: iš įvairaus atstumo ir žiūrėjimo kampo testų metu tokia transporto priemonė ženklą, reiškiantį „Stop“, perskaitydavusi tik kaip greičio ribojimo ženklą.

Antrojo eksperimento metu „Stop“ ženklas buvo apklijuotas lipdukais, kuriančiais grafičio iliuziją (tarsi būtų užrašyti žodžiai „love“ ir „hate“) – dviem trečdaliais atvejų autonominis automobilis jį perskaitė kaip greičio ribojimo ženklą. Tokį patį efektą turėjo ir keli atsitiktine tvarka ant minėtojo ženklo užklijuoti paprasčiausi lipdukai.

Posūkio į dešinę ženkle eksperimento vykdytojai rodyklę užmaskavo keliais pilkais lipdukais – autonomiško automobilio vaizdų apdorojimo sistema jį perskaitė kaip „Stop“ ženklą – taip nutiko dviem trečdaliais atvejų.

Norėdami, kad jų eksperimentas pergudrauti autonomiško automobilio sistemas pasiteisintų, ekspertai privalo perprasti algoritmą, kurį autonomiškų automobilių vaizdų apdorojimo sistema naudoja kelio ženklų klasifikacijai. Perpratę, kaip gali suklaidinti sistemą, jie tai galėjo lengvai padaryti pasitelkę itin paprastas priemones – pasirinko kelio ženklo nuotraukos, spalvoto spausdintuvo ir šiek tiek lipnaus popieriaus.

Autonomiškų automobilių startuolio „Voyage“ atstovas ir vienas iš ekspertų Tarekas El Gaaly „Car and Driver“ sakė, kad tokiems incidentams galima užkirsti kelią radus tinkamus sprendimus. Vienas iš galimų problemos sprendimo būdų – kontekstas. Kitaip tariant, automobilis turi galėti pats nuspręsti, kad, pavyzdžiui, mieste važiuoti autostradoje leistinu greičiu, nevalia.

„Be to, šiandien dauguma autonomiškų automobilių aprūpinti įvairiais jutikliais, taigi tereikia jiems parengti reikiamų programos įrangos atnaujinimų“, – sako T. El Gaaly.

Griežtai draudžiama DELFI paskelbtą informaciją panaudoti kitose interneto svetainėse, žiniasklaidos priemonėse ar kitur arba platinti mūsų medžiagą kuriuo nors pavidalu be sutikimo, o jei sutikimas gautas, būtina nurodyti DELFI kaip šaltinį.
Parašykite savo nuomonę
arba diskutuokite anonimiškai čia
Skelbdami savo nuomonę, Jūs sutinkate su taisyklėmis
Rodyti diskusiją Rodyti diskusiją

Rusijos policijai – netikėtas „Kalašnikov“ produktas (23)

Koncernas „ Kalašnikov “ pristato naują savo produktą – „Iž“ modeliu paremtą elektrinį...

Užpatentuota nanotechnologija, leidžianti įtrūkimams kelio dangoje užsitraukti patiems (3)

Panašu, kad kelio duobės jau netolimoje ateityje gali likti tik slogus prisiminimas, tvirtina...

Neįmanoma taps įmanoma – elektriniai sunkvežimiai jau greitai važinės dideliais atstumais (37)

Elektromobilius jau galima nustoti vadinti ateitimi – jie jau čia, veikia puikiai ir esmines bėdas...

Kaip kuriamas ateities automobilis: „Audi“ parodė eksperimentą (2)

Ateityje automobiliai patys važinės po miestus, vairuotojas taps keleiviu ir važiuodamas galės...

Sukurtas pirmasis pasaulyje biologiškai suyrantis automobilis (11)

Biologiškai suyrančios medžiagos pramonėje yra naudojamos vis dažniau. Visgi, nors gamintojai...

Top naujienos

Teroristinis išpuolis Barselonoje: 13 žuvo ir dešimtys sužeista sunkvežimiui įsirėžus į minią nuolat pildoma (515)

Turistų pamėgto Ramblos rajono pagrindinėje gatvėje Barselonoje, į žmonių minią įvažiavo...

Išpuolis Barselonoje: įtariamasis sulaikytas (185)

Ispanijos saugumo tarnybos paskelbė įtariamojo, kurio vardu išnuomotas incidente panaudotas...

Liudininkas apie kraupų išpuolį Barselonoje: jis per žmonių minią lėkė visu greičiu, nė nebandė stabdyti (19)

Ketvirtadienio vakarą Barseloną sukrėtė kraupi teroro ataka – į minią žmonių įsirėžė...

Barselonos centre gyvenantis lietuvis: nejauku ir pikta, bet tenka priimti tokią realybę (26)

Apie šešerius metus Katalonijos sostinėje Barselonoje gyvenantis kaunietis Eduardas Žigunovas...

Lietuvoje pristatyta įspūdinga aukštosios mados Indijos kolekcija

Vilniuje ketvirtadienio vakarą įvyko neeilinis mados renginys. Indijos nepriklausomybės dienos...

Ekonomistai įvertino R. Karbauskio norą (100)

Ekonomistai Nerijus Mačiulis ir Gitanas Nausėda neigiamai vertina „valstiečių“ lyderio...

Berniukas susirūpino benamių kačių likimu: tapo jų gelbėtoju ir superherojumi (2)

Kaskart aplankęs Kris Papiernik ir Kia Griffin, jų penkiametis sūnėnas Shon'as tenori daryti viena...

Gyvai / Bandymas siekti svajonės: „Ludogorec“ – „Sūduva“ (83)

Marijampolės „Sūduvos“ futbolininkai stoja į vieną iš svarbiausių mūšių komandos ir...

Kodėl princas Williamas negali skristi vienu lėktuvu su šeima (1)

Pasak karališkojo protokolo, karališkoji šeima neturėtų lėktuvu skraidyti kartu, tačiau...

Dainininkas R. Williamsas tapo valgymo per miegus įkaitu (4)

Įspūdingą šou Vilniaus Vingio parke surengęs garsus britų dainininkas Robbie Williamsas (43...