aA
Alexa, ar tu iš tikrųjų esi žmogus?
Leonidas Beršidskis. Trys valio „Amazon“ šnipinėtojams
© Shutterstock

Žinia, kad gausi „Amazon“ darbuotojų komanda klausosi pokalbių, įrašytų kompanijos skaitmeninio asistento „Alexa“, atskleidė kontrastą tarp dirbtinio intelekto furoro ir realybės – menkai apmokamų žmonių būrių, leidžiančių technologijai veikti realiame gyvenime. Būtent šie žmogiškųjų resursų batalionai žygiuoja milžiniškos Silicio slėnio privatumo invazijos priešaky.

Priimta manyti, kad dirbtinis intelektas sugeba sėkmingai atpažinti modelius ir apdoroti natūralią kalbą. Tačiau iš tikrųjų praktiškai neįmanoma išmokyti neuroninį tinklą neklystamai atpažinti kalbą ar veidus. Algoritmus, numatytus sklandžiam bendravimui su žmonėmis, tenka nuolat perprogramuoti, kad jie prisitaikytų prie slengo pokyčių, populiacijos judėjimo, įnešančio naujų akcentų, kultūrinių reiškinių ir mados tendencijų.

Tai neįvyksta savaime; algoritmai negali patys susižinoti apie karščiausias popkultūros naujienas ar televizijos serialus. Praėjusių metų pasaulio futbolo čempionate Rusijoje valdžios institucijos naudojo sudėtingą veidų atpažinimo sistemą, kad būtų galima į stadionus neįleisti pagarsėjusių chuliganų. Viskas veikė – iki finalinio žaidimo, kai į futbolo aikštelę išbėgo pankroko grupės „Pussy Riot“ nariai, apsirengę policininkų uniformomis. Duomenų bazėje jų nebuvo.

Kad dirbtinis intelektas veiktų, jam reikia nuolatinio žmogaus indėlio. Tačiau kompanijos, parduodančios DI produktus, nenori klientams atskleisti, kokį vaidmenį atlieka tai, ką „Wired“ autorė Lily Hay Newman pavadino „slaptomis žmogiškosiomis pajėgomis“, ir tam yra dvi priežastys.

Viena iš jų ta, kad tūkstančių žmonių triūsas anotuojant iš klientų surinktus duomenis neskamba taip magiškai, kaip „gilus mokymasis“, „neuroniniai tinklai“ ir „žmogaus lygmens vaizdas ir kalbos atpažinimas“. Antroji – ta, kad žmonės yra linkę patikėti savo paslaptis bekūniam algoritmui, panašiai kaip karaliaus Mido kirpėjas šnabždėdavo nendrėms apie asiliškas karaliaus ausis. Tačiau visai kas kita, jeigu kyla rizika, kad tas paslaptis nugirs žmonės, juo labiau turintys prieigą prie informacijos, kuri galėtų padėti identifikuoti klientą.

Karaliaus Mido mite kirpėjo šnabždesius pasigavo ir sustiprino aidas – kaip tyčia, taip pat vadinasi ir „Amazon“ įrenginys, kuriuo iškviečiama „Alexa“. Darbuotojai, kurie anotuoja garso įrašus ir padeda mokyti virtualų asistentą, kad šis atpažintų, jog „Taylor Swift“ nereiškia skubaus užsakymo siuvėjui (angl. „tailor“ – siuvėjas, „swift“ – skubus), nemato klientų pilnų vardų ir adresų, tačiau, matyt, turi prieigą prie paskyrų ir įrenginių serijos numerių. O tai jau ne juokas – ypač kai kalbama apie privačius pokalbius, susijusius su finansiniais sandoriais ar jautriais šeimos klausimais. Žinoma, visa tai „Alexa“ nugirsta tada, kai atsitiktinai paleidžiamas skaitmeninis asistentas.

Nėra didelio skirtumo tarp šio prieigos lygio ir to, kuriuo naudojasi „Amazon“ valdomos saugumo kamerų įmonės „Ring“ Kijevo biuro darbuotojai. Šiais metais „Intercept“ pranešė, kad „Ring“ darbuotojai, kuriems pavesta anotuoti vaizdo medžiagą, slapta peržiūrinėja kameros įrašus, darytus tiek žmonių namuose, tiek už namų ribų.

„Amazon“ reakcija į „Intercept“ istoriją buvo žodis žodin panaši į tą, kurią ji pateikė „Bloomberg“. Kompanija pareiškė „absoliučiai netoleruojanti piktnaudžiavimo savo sistemomis“. Toks klišinis atsakymas nesukelia didelio pasitikėjimo.

„Amazon“, žinoma, nėra vienintelė kompanija, užsiimanti tokiais dalykais. 2017 m. „Expensify“, kuri padeda įmonėms valdyti darbuotojų išlaidų sąskaitas, pasamdė žmonių iš „Mechanical Turk“, „Amazon“ priklausančios darbo biržos, kad šie analizuotų kvitus. Praėjusiais metais „Guardian“ parašė apžvalgą apie tai, ką pavadino „pseudo-DI“, ir identifikavo keletą atvejų, kai technologijų kompanijos samdė prastai apmokamus žmones, kad šie kurtų duomenis dirbtinio intelekto mokymui.

Riba tarp mokymo ir imitacijos yra plona: norint sukurti būtiną duomenų rinkinį, kartais reikalingi žmonės, galintys atkartoti algoritmo darbą, ir tai gali tęstis ilgą laiką. Abejoju, ar „Facebook“ ir „Google“ kada nors atsikratys dešimčių tūkstančių samdinių, kurie peržiūrinėja įrašus, ieškodami įžeidžiančio, jautraus ar nusikalstamo turinio, nes jų algoritmai niekada nebus tokie gudrūs, kad be žmogaus pagalbos sugebėtų išvengti skandalingų klaidų.

Iš principo, nėra nieko blogo, kad žmonės dalyvauja DI veikloje. Tiesą sakant, taip viskas ir turėtų veikti, jei norime išvengti kataklizmo darbo rinkoje. Kaip neseniai paskelbė Daronas Acemoglu iš Masačusetso technologijos instituto ir Pascualis Restrepo iš Bostono universiteto, „automatizavimo poveikį kompensuoja naujų užduočių kūrimas, kur žmogaus darbas turi lyginamąjį pranašumą“. Šios „slaptos žmogiškosios pajėgos“ atlieka užduotis, kurios nebūtų atsiradusios, jei ne DI.

Problema slypi kitur. Kompanijos, dirbančios su DI projektais, turėtų elgtis sąžiningai ir neslėpti žmonių dalyvavimo procese. „Facebook“ ir „Google“ jau bando tą daryti: jų moderatoriai ir kokybės vertintojai atlieka panašų darbą, kaip ir „Amazon“ sukurtos „Alexos“ mokymo komanda.

Be abejo, atvirumas demistifikuos DI ir galbūt sumažins tokių invazinių produktų kaip „Echo“ pardavimus. Tačiau šiais laikais daugelis žmonių yra linkę aukoti privatumą patogumo vardan, taigi šie įrenginiai dar atneš pelno.

Šioje vietoje naudingą vaidmenį galėtų atlikti reguliatoriai. Jie turėtų užtikrinti, kad kompanijos iš tikrųjų anonimizuoja duomenų rinkinius DI mokymui ir neleidžia susieti jautrių duomenų su realiais žmonėmis – kitaip tariant, kad mums neteks priklausyti nuo kompanijų geranoriškumo ar sąžiningo reikalavimų vykdymo.

Be to, valdžios institucijos turėtų išnagrinėti darbuotojų gaunamus atlyginimus ir darbo sąlygas šiose naujose, į duomenis orientuotose profesijose. Šiuos žmones technologijų pramonė dažnai traktuoja kaip nesvarbius, nekvalifikuotus ir lengvai pakeičiamus – nors iš tiesų jie dirba emociškai ir psichologiškai įtemptą darbą, kas šiuo metu dar nėra iki galo suprantama.

Priežastis, kodėl šie darbuotojai kalbasi su žurnalistais, nepaisydami konfidencialumo sutarčių, yra ta, kad jie jaučiasi nepakankamai vertinami, nes dirba technologijų pramonės šlovės šešėlyje. O iš tiesų jų svarbus vaidmuo neturėtų būti laikomas purvina paslaptimi.

Bloomberg
Įvertink šį straipsnį
Norėdami tobulėti, suteikiame jums galimybę įvertinti skaitomą DELFI turinį.
(5 žmonės įvertino)
4.2000

Didžiulės paklausos susilaukęs NT: vietoje – net aktyvus ugnikalnis (7)

Sumanymas įsigyti privačią salą – jau nebemadingas. Verčiau pasidairykite vietovės, kur esama...

Bruce Einhorn | D+

„Žinių nebesulaukiau“: kaip Kinija praleido progą sukurti vakciną

Telefonas suskambo pačioje „Covid-19“ pandemijos pradžioje. Drew Weissmanas, Pensilvanijos...

„Maersk“ generalinis direktorius: pasaulio ekonomikoje – jokių realių infliacijos rizikos ženklų (6)

Didžiausios pasaulyje laivybos kompanijos vadovas teigia nematantis jokių pavojingo infliacijos...

Kava be pupelių? Startuolis siūlo puodelį naujoviškos kavos (5)

Per kvartalą nuo „Starbucks“, judrioje Siatlo Vestern aveniu, moteris stovi palinkusi virš...

Išvydę rezultatus gyventojai liko sukrėsti: kas nutiko daugiausia žmonių paskiepijusioje pasaulio šalyje? (478)

Seišeliuose, kur gyventojų nuo COVID-19 paskiepyta daugiau nei bet kurioje kitoje šalyje,...

Top naujienos

Dulkys: Šiauliuose ir anksčiau buvo tam tikrų signalų, po medikės mirties pasipylė skundai iš kitų gydymo įstaigų (346)

Praėjus savaitei po to, kai nusižudė jauna Šiaulių respublikinės ligoninės gydytoja,...

Daiva Žeimytė-Bilienė. Nustokite bauginti (944)

Kas nepamena įvykių Garliavoje. Prieš dešimt metų visas Lietuvos dėmesys buvo Klonio gatvėje:...

Tragedija Kelmės rajone: tvenkinyje paskendo dvi mažos sesės papildyta (195)

Vėlų pirmadienio vakarą Kelmės rajone, Liolių miestelyje, tvenkinyje, nuskendo dvi 11 ir 12...

Dalį Lietuvos ir toliau merks lietus, kitur – gaivus pavasaris

Antradienio dieną orus lems ciklono vakarinė dalis. Rytinę šalies pusę dengs storų debesų...

Kaimo turizmą slegia atšaukiamos šventės, o klausimų kyla ir dėl paso: įpareigoti būtų tikrinti ne klientą (17)

Pandemijos išvarginti Lietuvos poilsiautojai populiarius kurortus vis labiau linkę keisti į...

Po medikų išplatinto laiško - SAM reakcija: nuo darbo grupės vadovo pareigų nusišalino viceministras (112)

Po medikės savižudybės Sveikatos apsaugos sistemą krečiantis skandalas tęsiasi. Po pirmadienį...

Penkeri metai po lemtingos gegužės: Eligijus Masiulis stebisi, kodėl byloje vietos neatsirado Grybauskaitei (337)

Prieš penkerius metus prasidėjo garsi ir skambi politinės korupcijos byla . Buvo sulaikytas...

Su sijonu-kiltu ant „Eurovizijos“ kilimo sužibėjęs „The Roop“ lyderis – apie žmonių reakcijas ir šiuo įspūdingu įvaizdžiu pasiųstą žinutę žiūrėkite vaizdo pokalbį (336)

Jau visai netrukus, šį antradienį, nuskambės taip ilgai lauktas pirmasis „Eurovizijos“...

Didžiulės paklausos susilaukęs NT: vietoje – net aktyvus ugnikalnis (7)

Sumanymas įsigyti privačią salą – jau nebemadingas. Verčiau pasidairykite vietovės, kur esama...

Pangoso pastangų nepakako: Vieningosios lygos pusfinalį CSKA pradėjo dramatiška pergale

VTB Vieningosios lygos pusfinalio pirmoje kovoje žingsnį finalo link dėjo Maskvos CSKA , kuri...