Vašingtono, Mičigano ir dar kelių Jungtinių Valstijų universitetų mokslininkai tvirtina radę būdą, kaip pergudrauti savivaldžius automobilius – tereikia lipdukų ant kelio ženklų.
Tik šiek tiek pakeistas ženklas gali pridaryti didelių problemų savivaldžiams automobiliams
© Tyrimo autorių nuotr.

Tyrimą ekspertai pradėjo analizuodami algoritmą, kuriuo tokių automobilių aplinkos stebėjimo sistema naudojasi vaizdų klasifikavimui. Buvo simuliuojamos įvairios manipuliacijos kelio ženklų tema, siekiant išsiaiškinti, kokiu atveju savarankiškas automobilis gali juos neteisingai suprasti. Pavyzdžiui, ekspertai pagamino specialių lipdukų, kuriais apklijavo kelio ženklus.

Tik pagalvokite – savarankiško automobilio vaizdų apdorojimo sistema neteisingai supranta greičio ribojimo ženklą ir nepriima reikiamo sprendimo. Tokia situacija gali baigtis tragedija, skelbia autoblog.com

Tyrimo, pavadinto „Robust Physical-World Attacks on Machine Learning Models“, autoriai pademonstravo kelis skirtingus būdus, kaip sutrikdyti savarankiškus automobilius ir priversti juos neteisingai skaityti kelio ženklus. Tam jie pasitelkė paprasčiausią spalvotą spausdintuvą ir kamerą.

Kalbant apie šiuos eksperimentus, didžiausią nerimą kelia tai, kad žmogaus akims tokios manipuliacijos neatrodo kažkuo išskirtinės, nes pateikiamos tarsi grafitis, meno kūrinys ar tiesiog elementai, inkorporuojami į kelio ženklo vaizdinį apipavidalinimą.

Detaliau aptarkime ekspertų eksperimentui panaudotus metodus. Pirmojo metu visas kelio ženklas buvo uždengtas atspausdinta modifikuota jo versija. Žmogaus akiai jis atrodo tarsi normalus, tačiau keliose vietose vaizdas kiek išplaukęs. Autonomiškam automobiliui kilo žymiai rimtesnių bėdų: iš įvairaus atstumo ir žiūrėjimo kampo testų metu tokia transporto priemonė ženklą, reiškiantį „Stop“, perskaitydavusi tik kaip greičio ribojimo ženklą.

Antrojo eksperimento metu „Stop“ ženklas buvo apklijuotas lipdukais, kuriančiais grafičio iliuziją (tarsi būtų užrašyti žodžiai „love“ ir „hate“) – dviem trečdaliais atvejų autonominis automobilis jį perskaitė kaip greičio ribojimo ženklą. Tokį patį efektą turėjo ir keli atsitiktine tvarka ant minėtojo ženklo užklijuoti paprasčiausi lipdukai.

Posūkio į dešinę ženkle eksperimento vykdytojai rodyklę užmaskavo keliais pilkais lipdukais – autonomiško automobilio vaizdų apdorojimo sistema jį perskaitė kaip „Stop“ ženklą – taip nutiko dviem trečdaliais atvejų.

Norėdami, kad jų eksperimentas pergudrauti autonomiško automobilio sistemas pasiteisintų, ekspertai privalo perprasti algoritmą, kurį autonomiškų automobilių vaizdų apdorojimo sistema naudoja kelio ženklų klasifikacijai. Perpratę, kaip gali suklaidinti sistemą, jie tai galėjo lengvai padaryti pasitelkę itin paprastas priemones – pasirinko kelio ženklo nuotraukos, spalvoto spausdintuvo ir šiek tiek lipnaus popieriaus.

Autonomiškų automobilių startuolio „Voyage“ atstovas ir vienas iš ekspertų Tarekas El Gaaly „Car and Driver“ sakė, kad tokiems incidentams galima užkirsti kelią radus tinkamus sprendimus. Vienas iš galimų problemos sprendimo būdų – kontekstas. Kitaip tariant, automobilis turi galėti pats nuspręsti, kad, pavyzdžiui, mieste važiuoti autostradoje leistinu greičiu, nevalia.

„Be to, šiandien dauguma autonomiškų automobilių aprūpinti įvairiais jutikliais, taigi tereikia jiems parengti reikiamų programos įrangos atnaujinimų“, – sako T. El Gaaly.

Griežtai draudžiama DELFI paskelbtą informaciją panaudoti kitose interneto svetainėse, žiniasklaidos priemonėse ar kitur arba platinti mūsų medžiagą kuriuo nors pavidalu be sutikimo, o jei sutikimas gautas, būtina nurodyti DELFI kaip šaltinį.
Populiariausios nuomonės
Parašykite savo nuomonę
arba diskutuokite anonimiškai čia
Skelbdami savo nuomonę, Jūs sutinkate su taisyklėmis
Rodyti diskusiją Rodyti diskusiją

99 metų istorija glaustai: įdomiausi faktai apie britų aristokratą „Bentley“ (2)

„Sukurti gerą, greitą, geriausią savo klasėje automobilį“ – tokią misiją sau iškėlė...

Automobilių ratlankių mados: verta investuoti į originalius ar pakanka kopijų? (7)

Ratlankiai automobiliui yra kaip batai žmogui. Jie parodo vairuotojo požiūrį į automobilį,...

Skirtingi „Neste Eko ralio 2018“ dalyvių tikslai (2)

Antradienį bus duotas startas „Neste Eko raliui 2018“, kurio bemaž 2000 km maršrutas nusidrieks...

Fantazijai nėra ribų: žinoma gamintoja patentavo automobilį su karusele (7)

Įvairūs automobilių gamintojai ir toliau fantazuoja, ko galės imtis, kai autonominės...

Elonas Muskas kreipėsi į „Tesla“ darbuotojus laišku: sveikas protas yra aukščiau bet kokių taisyklių (10)

Ar mandagu padėti ragelį viduryje pokalbio, jei jaučiate, kad jis niekur nejuda? O išeiti iš...

Top naujienos

Visai Lietuvai pažįstamo Teodoro kova: tai, ką tenka patirti, nelinkėtų nė didžiausiam priešui (21)

Gąsdinančio dydžio auglys mažo, bet jau visai Lietuvai pažįstamo Teodoro galvoje nepasiduoda....

Grybauskaitės ir Skvernelio karas: vienam iš jų tai kainuos brangiai (406)

Konfliktas su prezidente Dalia Grybauskaite premjerui Sauliui Skverneliui gali kainuoti galimybes...

Indijos lūšnynų gyvenimo paragavęs lietuvis: čia gyvena net pasiturintys verslininkai (39)

Beveik mėnesį keliavau po Indiją, kuri žinoma kaip stulbinančių kontrastų šalis. Penkios...

Kate Middleton ir princas Williamas pristatė savo naujagimį (133)

Balandžio 23-iąją visą pasaulį apskriejo džiugi žinia – britų karališkoji pora princas...

Toronte į pėsčiuosius rėžėsi automobilis: gali būti sužeista maždaug 10 žmonių papildyta 21.56 (17)

Maždaug 10 žmonių buvo sužeista po to, kai judrioje sankryžoje Toronte į pėsčiuosius trenkėsi...

Antrame mūšyje ledo ritulio mūsų „Svajonių komanda“ sutriuškino Rumunijos rinktinę (28)

Lietuvos ledo ritulio rinktinė pasaulio ledo ritulio čempionato IB diviziono antrose rungtynėse...

Nenustebkite sulaukę VMI skambučio (13)

Gegužės 2 d. yra paskutinė diena deklaruoti praėjusių metų pajamas ir prireikus sumokėti...

Vadina iškrypėliais – seksas viešoje vietoje sugadino akciją „Darom“ (115)

Iš pradžių galvojau kreiptis į policiją, bet įkarščiui atslūgus rašau čia. Jei žinočiau...

Į Kauną atvykusi „Olympiakos“ planuoja susigrąžinti namų pranašumą (15)

Pirmadienio vakarą Kauno oro uostą pasiekė lėktuvas iš Atėnų. Keleiviai – žūtbūtinėms...

Mokslininkas perspėja: artimiausias tiesioginis pavojus yra automatinės žudymo mašinos

Turbūt niekas taip gerai negali nuspėti kas bus ateityje, kaip Michio Kaku. Tai teorinės fizikos...