Vašingtono, Mičigano ir dar kelių Jungtinių Valstijų universitetų mokslininkai tvirtina radę būdą, kaip pergudrauti savivaldžius automobilius – tereikia lipdukų ant kelio ženklų.
Tik šiek tiek pakeistas ženklas gali pridaryti didelių problemų savivaldžiams automobiliams
© Tyrimo autorių nuotr.

Tyrimą ekspertai pradėjo analizuodami algoritmą, kuriuo tokių automobilių aplinkos stebėjimo sistema naudojasi vaizdų klasifikavimui. Buvo simuliuojamos įvairios manipuliacijos kelio ženklų tema, siekiant išsiaiškinti, kokiu atveju savarankiškas automobilis gali juos neteisingai suprasti. Pavyzdžiui, ekspertai pagamino specialių lipdukų, kuriais apklijavo kelio ženklus.

Tik pagalvokite – savarankiško automobilio vaizdų apdorojimo sistema neteisingai supranta greičio ribojimo ženklą ir nepriima reikiamo sprendimo. Tokia situacija gali baigtis tragedija, skelbia autoblog.com

Tyrimo, pavadinto „Robust Physical-World Attacks on Machine Learning Models“, autoriai pademonstravo kelis skirtingus būdus, kaip sutrikdyti savarankiškus automobilius ir priversti juos neteisingai skaityti kelio ženklus. Tam jie pasitelkė paprasčiausią spalvotą spausdintuvą ir kamerą.

Kalbant apie šiuos eksperimentus, didžiausią nerimą kelia tai, kad žmogaus akims tokios manipuliacijos neatrodo kažkuo išskirtinės, nes pateikiamos tarsi grafitis, meno kūrinys ar tiesiog elementai, inkorporuojami į kelio ženklo vaizdinį apipavidalinimą.

Detaliau aptarkime ekspertų eksperimentui panaudotus metodus. Pirmojo metu visas kelio ženklas buvo uždengtas atspausdinta modifikuota jo versija. Žmogaus akiai jis atrodo tarsi normalus, tačiau keliose vietose vaizdas kiek išplaukęs. Autonomiškam automobiliui kilo žymiai rimtesnių bėdų: iš įvairaus atstumo ir žiūrėjimo kampo testų metu tokia transporto priemonė ženklą, reiškiantį „Stop“, perskaitydavusi tik kaip greičio ribojimo ženklą.

Antrojo eksperimento metu „Stop“ ženklas buvo apklijuotas lipdukais, kuriančiais grafičio iliuziją (tarsi būtų užrašyti žodžiai „love“ ir „hate“) – dviem trečdaliais atvejų autonominis automobilis jį perskaitė kaip greičio ribojimo ženklą. Tokį patį efektą turėjo ir keli atsitiktine tvarka ant minėtojo ženklo užklijuoti paprasčiausi lipdukai.

Posūkio į dešinę ženkle eksperimento vykdytojai rodyklę užmaskavo keliais pilkais lipdukais – autonomiško automobilio vaizdų apdorojimo sistema jį perskaitė kaip „Stop“ ženklą – taip nutiko dviem trečdaliais atvejų.

Norėdami, kad jų eksperimentas pergudrauti autonomiško automobilio sistemas pasiteisintų, ekspertai privalo perprasti algoritmą, kurį autonomiškų automobilių vaizdų apdorojimo sistema naudoja kelio ženklų klasifikacijai. Perpratę, kaip gali suklaidinti sistemą, jie tai galėjo lengvai padaryti pasitelkę itin paprastas priemones – pasirinko kelio ženklo nuotraukos, spalvoto spausdintuvo ir šiek tiek lipnaus popieriaus.

Autonomiškų automobilių startuolio „Voyage“ atstovas ir vienas iš ekspertų Tarekas El Gaaly „Car and Driver“ sakė, kad tokiems incidentams galima užkirsti kelią radus tinkamus sprendimus. Vienas iš galimų problemos sprendimo būdų – kontekstas. Kitaip tariant, automobilis turi galėti pats nuspręsti, kad, pavyzdžiui, mieste važiuoti autostradoje leistinu greičiu, nevalia.

„Be to, šiandien dauguma autonomiškų automobilių aprūpinti įvairiais jutikliais, taigi tereikia jiems parengti reikiamų programos įrangos atnaujinimų“, – sako T. El Gaaly.

Griežtai draudžiama DELFI paskelbtą informaciją panaudoti kitose interneto svetainėse, žiniasklaidos priemonėse ar kitur arba platinti mūsų medžiagą kuriuo nors pavidalu be sutikimo, o jei sutikimas gautas, būtina nurodyti DELFI kaip šaltinį.
Parašykite savo nuomonę
arba diskutuokite anonimiškai čia
Skelbdami savo nuomonę, Jūs sutinkate su taisyklėmis
Rodyti diskusiją Rodyti diskusiją

Kai labai nori, bet neišgali: paskola automobiliui virsta kilpa ant kaklo (190)

Pripažinkime – kiekvienas nori vairuoti kuo geresnį automobilį ar gyventi kuo geresniame būste....

Hibridinio automobilio privalumai: nuo švaresnės aplinkos iki geresnio virškinimo (11)

Automobilio pasirinkimą dažniausiai lemia simpatija tam tikram prekės ženklui, automobilio kaina,...

Judrioje gatvėje pavojingai „ūsais“ sklaidęsis troleibusas ir linksmino, ir gąsdino vilniečius (20)

Ketvirtadienį dalis sostinės gyventojų ir svečių tapo keisto įvykio liudininkais. Nuo...

Rusiškame sunkvežimyje – netikėtas atradimas „Tetrio“ fanams (22)

Automobilių gamintojai jau dešimtmečiais savo mašinose mėgsta įrengti netikėtų siurprizų,...

Pusnuogės rusės kvailiojimai automobilyje baigėsi tragedija (47)

Smagios atostogos neretai keliautojus užburia nerūpestingumu, tačiau toks laisvės pojūtis gali...

Top naujienos

A. Užkalnis tarp daugiabučių rado Vietnamo perlą (40)

„Atsiprašau, ar jūs kartais ne Užkalnis?“, – jau pavalgius manęs klausia padavėjas....

Piešiamas naujas Lietuvos žemėlapis: Panevėžiui – priverstinės jungtuvės (116)

Juokaudama, kad šešiuose Lietuvos rajonuose, kurie tarsi žiedai apjuosę miestus, nėra net kur...

G. Paluckas siūlo skirstant pelną darbuotojus įtraukti į įmonių valdymą (394)

Lietuvos socialdemokratų partijos ( LSDP ) pirmininkas Gintautas Paluckas siūlydamas savo idėją...

Metų seklys: nedidelio miestelio dideli nusikaltėlių užmojai (21)

DELFI, bendradarbiaudamas su Lietuvos policija, tęsia kasmetinį pasakojimų ciklą „ Metų seklys...

D. Montvydas švenčia 30-ąjį gimtadienį: keitėsi ne tik išvaizda, bet ir stilius (18)

Spalio 22-oji atlikėjo ir projekto „Lietuvos balsas“ teisėjo Donato Montvydo gyvenime yra...

R. Sadauskas-Kvietkevičius. Labiausiai skaudina ne lygybės, o teisingumo stygius (23)

Šiomis dienomis atrodo, kad nepostina feisbuke rudeninių lapų ir nekalba apie socialinę atskirtį...

Ekspertas pasakė, kodėl realiame gyvenime „Titaniko“ herojus nebūtų taip papratai nuskendęs (4)

Daugelį „Titaniko“ gerbėjų ilgus metus kankina neatsakytas klausimas, ar Jackas Dawsonas...

Kitos savaitės orai: galime sulaukti šlapdribos (8)

Kitą savaitę išliks rudeniški permainingi orai , tačiau, kaip LRT RADIJUI sako sinoptikas...

Dingusio baikerio paiešką sekmadienį tęs tik pareigūnai (21)

Sekmadienį dingusio Aivaro Kilkaus žmona, socialiniame tinkle „Facebook“, paskelbė informaciją...

Ekspertas įvertino 4 žmonių su skirtingu gyvenimo būdu riziką: kam kyla didžiausias pavojus susirgti žarnyno vėžiu (22)

Reguliariai mėgaujatės mėsos kepsniu? Norite atsikratyti kelių papildomų kilogramų? Turite II...