Qandi Agha buvo kasininkas Afganistano kultūros ministerijoje. Bet jis tvirtina, kad 2012 m. jį areštavo elitinis JAV Specialiųjų pajėgų padalinys ir kankino šešias su puse savaitės. Jis buvo panardinamas po vandeniu, kol pasijusdavo mirštąs, sako Joanne Mariner, „Amnesty International“ humanitarinės teisės ekspertė. „Jie taip pat užrišo vielą ant jo penio, kad neitų šlapintis,“ sako jis. „Jį taip išlaikė keturias dienas.“
Q. Agha kankinimas yra vienas iš daugelio tokių J. Mariner užfiksuotų atvejų naujausiai ataskaitai apie civilines karo aukas. Nehumaniškas treniruotų kareivių elgesys nėra retenybė, nuo pagarsėjusių Bagdado Abu Graibo kalėjimo kalinių patyčių iki britų Karališkųjų jūros pėstininkų, nufilmuotų nušaunant sužeistą afganų karį. „Visa tai neturi niekur pakliūti, bičai… Aš ką tik pažeidžiau Ženevos konvenciją,“ pasakė gaiduką nuspaudęs pėstininkas. „Kai užsiimi žmonių žudymu, reikia daug atsargumo ir kontrolės, kad būtum tikras, jog žudomi tik tie žmonės, kuriuos teisėti gali nužudyti,“ pastebi J. Mariner.
Ar mašinos galėtų tai atlikti geriau? Daugeliui tai atrodo beprotiška idėja. Bet kiti ne tik mano, kad mašinos galėtų tai atlikti, bet ir privalo. „Dabar žmonės žudo kitus žmones karo lauke neteisingai,“ sako Ronaldas Arkinas, robotikos ekspertas iš Džordžijos technologijos instituto Atlantoje. „Negaliu ramiai sėdėti ir nieko nesiimti. Tikiu, kad technologija gali padėti.“
Kitaip nei žmonės, robotai taisyklių nelaužys. Dėl to mašinų kariaujami karai būtų humaniškesni. O robotų siuntimas vietoje žmonių kareivių taip pat ir išgelbėtų gyvybes, ypač šalyse, turinčiose tokią pažangią techniką. Taigi, vadinamųjų mirtinų autonominių ginklų sistemų (MAGS) – ar „žudikų robotų“ – kūrimas spartėja, ir daugelis pasaulio armijų ieško būdų patraukti savo kareivius iš ugnies linijos.
Bet yra arši opozicija. Šią savaitę dešimčių šalių atstovai susirinks JT būstinėje Ženevoje, Šveicarijoje, aptarti, ar JT turėtų juos uždrausti. Siekiama robotus žudikus prilyginti cheminiams ginklams, pėstininkų minoms ir akinantiems lazeriams. Kadangi visiškai autonominiai ginklai jau yra techniškai įmanomi, prieš juos nukreiptos kampanijos dalyviai siekia jų vystymą sustabdyti – ir greitai. Bet kas pastatyta ant kortos?
Dabar robotai karo lauke atlieka keletą funkcijų. Kai kurie perneša įrangą, kiti išmontuoja bombas ir atlieka žvalgybą. O nuotoliniu būdų kontroliuojamais bepiločiais orlaiviais operatoriai gali vykdyti atakas už tūkstančių kilometrų. Tačiau naujausios mašinos yra tarsi bepiločiai orlaiviai su autonominio pasirinkimo teise. Kadangi jie geba pasirinkti ir nusitaikyti į taikinius su nedaug ar visai be žmogaus įsikišimo, vienintelis dalykas, skiriantis nuo patvirtinimo atidengti ugnį, lieka tik žmogaus duotas leidimas.
JAV Laivyno „Phalanx“ priešraketinė sistema, montuojama „Aegis“ klasės laivuose, gali pati atlikti „žudymo įvertinimą“ – įvertinti tikimybę, kad taikinys gali būti sėkmingai atakuojamas. JK firma BAE kuria bepilotį lėktuvą „Taranis“. Jis gali pakilti, nuskristi iki paskirto taško, ir aptikti dominančius objektus be žemėje esančių operatorių įsikišimo, nebent iškiltų būtinybė. Šis lėktuvas yra prototipas ir ginklų jame nėra, bet jis demonstruoja tokio orlaivio techninio įgyvendinamumo galimybę.
Tuo tarpu Rusijos „mobilus robotinis kompleksas“ – bepilotė, tanką primenanti mašina, sauganti balistinių raketų paleidimo vietas – ir P. Korėjos „Super Aegis II“ ginklų platforma, galinti aptikti ir šauti į judančius taikinius be žmogaus priežiūros. „Super Aegis II“ gali aptikti asmenį už 2,2 km.
Ginklų gamintojai nemėgsta kalbėti apie detales. Specifikacijos iš esmės yra įslaptintos. Tačiau aišku, kad technologijos nebėra ribojantis veiksnys. „Technologijos nėra tikėtina kliūtis to, kas bus pasiekiama ateityje,“ sako JK amunicijos gamintojų MBDA atstovas. Veikiausiai autonominius ginklus ribos politika, o ne techninės galimybės, sako jis.
Tai kokios tada yra tinkamos karo taisyklės? Konkrečiai robotų taikymą reglamentuojančių įstatymų nėra, bet visi ginklai turi atitikti egzistuojančias konvencijas. Pagrindinis principas – negalima tyčia taikytis į civilius ir civilių turtą. Autonominiai ginklai taip pat turi gebėti atskirti kareivius nuo civilių. O jėgos panaudojimas turi būti proporcingas – tikėtina karinės atakos nauda turi būti didesnė nei numatoma žala nekariaujančioms šalims. „Sakyčiau, yra tinkami įstatymai, tinkantys autonominėms ginklų sistemoms,“ sako Matthew Waxmanas iš Kolumbijos Teisės mokyklos Niujorke. „Turi būti įvertinamas bet kokios sukurtos ginklų sistemos bazinis atitikimas.“
Laikantis tokios koncepcijos, R. Arkinas tiki, kad jei vertinant civilių aukų kiekį MAGS gali pasirodyti geriau, nei kareiviai, tokių technologijų uždraudimas būtų klaida. „Turime atminti žmogiškų klaidų tikimybę ir moralinį trapumą dabartinių karų fone,“ sako jis. „Jei galime tai atlikti geriau, nei jie, vadinasi, saugome gyvybes.“
Kiti argumentai tokie pat stiprūs. Pavyzdžiui, Erikas Schechteris, matematikas iš Vanderbilto universiteto Nashville'yje, Tennessee'yje, neseniai rašė „The Wall Street Journal“: „Jei tarptautinio humanitarinio įstatymo tikslas yra sumažinti nekariaujančiųjų kančias karo metu, taikliai šaudančių robotų naudojimas būtų labiau nei tinkamas, tai būtų moralinis imperatyvas.“
Robotai taip pat galėtų gelbėti kareivių gyvybes. Pavyzdžiui, užuot įtariamos priešų bazės, galbūt įsikūrusios tankiai apgyvendintame miesto rajone, bombardavimui kvietus oro pajėgas, į pastatą pirmiau kareivių galėtų įžengti robotai, perimantys riziką. Kai misija itin pavojinga, galėtų būti naudojamos mašinos.
Teisė į orumą
Tačiau idėja labai prieštaringa. Daugeliui perspektyva, kad kompiuterio lustas turės galią nuspręsti kieno nors gyvybės ir mirties klausimą, yra nejauki. Pasak žmogaus teisių eksperto, teisės profesoriaus Christofo Heynso, JT specialiojo įgaliotinio neteisminių egzekucijų klausimams, tai galėtų prieštarauti humanitariniams įstatymams ir žmogiškai teisei į orumą.
„Tam, kad sprendimas nepažeistų žmogiško orumo, jo priėmime turi pakankamai aktyviai dalyvauti žmonės,“ teigia C. Heynsas. Jis pažymi, kad roboto taikinys neturi galimybės apeliuoti į žmogiškumą, kaip galėtų, jei ginklą laikytų žmogus. Tai primintų sunaikinimą, sako jis. Jau ir nuotolinio valdymo bepiločiai aparatai suteikia tik labai menką tokios apeliacijos galimybę. Tačiau juos bent jau valdo žmogus, kad ir kaip toli bebūdamas, galintis priimti etika pagrįstus sprendimus. „Viltis, kad tai įmanoma, bent jau nėra visiškai lygi nuliui,“ sako C. Heynsas. „O viltis yra oraus gyvenimo dalis.“
Tačiau C. Heynsas nėra visiškai nusistatęs prieš MAGS atsiradimą. Įsivaizduokite snaiperių komandą, nusitaikiusią į karinės grupuotės, tokios, kaip „Boko Haram“, narius, dėsto jis. Įkaitai šalia, tad visiems snaiperiams reikia tiksliai iššauti tuo pačiu metu, kad nenukentėtų įkaitai. Sprendimą žudyti priimtų žmogus, tačiau šūvius galėtų paleisti ginklus kontroliuojantis kompiuteris. Tai gali būti vienintelis būdas visus ginklus iššauti vienu sykiu, kai snaiperiai mato savo taikinį.
Tačiau C. Heynsą neramina, kaip jis pats sako, „jėgos depersonalizavimas“. 2013 metų JT ataskaitoje jis įspėjo, kad „nepailstančios karo mašinos, pasirengusios būti panaudotos vos paspaudus mygtuką“ gali lemti ateitį, kurioje kariniai konfliktai vyksta nepaliaujamai. Jei vyriausybėms nereikės teptis rankų, karas gali tapti pernelyg paprastu užsiėmimu. Netgi jei kovotų mašinos prieš mašinas, didelė žala nekariaujančioms šalims galėtų sugriauti valstybių infrastruktūrą. O kadangi aukų būtų mažiau, karai galėtų tęstis ilgiau, užkirsdami kelią pokariniam atsistatymui.
Karo depersonalizavimo baimė kai ką įtikino, kad ginkluoti robotai turėtų būti vetuojami. „Žmonės miršta karuose,“ sako JAV kongresmenas Jimas McGovernas. „Ir turėtume niekad nepasiekti taško, kur pamirštume, koks siaubingas jis yra.“ Sunerimęs, kad technologiškai pažangios šalys atitraukia save nuo karo realybės, J. McGovernas nori, kad JAV taptų autonominių ginklų draudimo pionieriais.
„Manau, žmonės turėtų nerimauti dėl bombardavimo, bepiločių lėktuvų atakų padarinių,“ sako jis. „Pašalinus iš proceso žmones, jie tampa nebejautrūs. Noriu, kad žmonės žinotų, kad karas yra siaubingas ir šlykštus.“
J. McGoverno baimė turi pagrindą. Tyrimai rodo, kad, pavyzdžiui, į žmones nukreiptos dronų atakos gali radikalizuoti anksčiau konflikte nedalyvavusius žmones. „Gali būti, neteisingumo jausmas dar sustiprėja, kadangi priešas yra taip atsiribojęs nuo konflikto, kad net nesivargina pasiųsti kareivių“ sako Raffaello Pantucci, terorizmo ekspertas Londono Karališkajame jungtinių paslaugų institute.
Šią vasarą J. McGovernas organizavo kampanijos „Campaign to Stop Killer Robots“ susitikimą su JAV politikais – tas labai pasitarnavo Noelui Sharkey, vienam iš šios kampanijos lyderių, jau beveik dešimtmetį bandžiusiam atkreipti tarptautinį dėmesį į šį klausimą.
N. Sharkey yra dirbtinio intelekto ir robotikos specialistas Sheffieldo universitete, JK. Pagrindinis jo atkaklią kampaniją varantis veiksnys – jo žinios apie dabartinių technologijų trūkumus. R. Arkinui žvelgiant į kitos kartos techniką, N. Sharkey nerimauja dėl esamos. Kaip ir J. Mariner. „Skaičiavimų gerumas priklauso nuo gaunamų duomenų,“ sako ji. Ar bepilotis orlaivis gali atskirti barzdotą taksi vairuotoją nuo barzdoto talibo? „Nėra tobulo kompiuterio, galinčio atlikti tokį vertinimą,“ pastebi ji. N. Sharkey priduria: „Galėčiau per kelias savaites pagaminti robotą žudiką, aptinkantį žmonių kūnus ir šaudantį į juos,“ sako jis. „Problema – kaip atskirti civilius nuo kovotojų.“
Tokį gebėjimą įgyvendinti sunku. „Tai labai sudėtinga problema, ir ji jokiu būdu nėra išspręsta“ sako Glynnas Wrightas, „Aralia Systems“, JK įsikūrusios firmos, teikiančios atvaizdų analizavimo programinę įrangą saugumo prietaisams, įkūrėjas. „Aralia“ programinė įranga gali išskirti įtartiną veiklą stebėjimo kamerų vaizduose. Prieš porą metų metų sistema pažymėjo žmonių grupę, kuri, kaip paskui paaiškėjo, ieškojo tinkamos viešos vietos padėti bombą. Asmenys buvo sulaikyti ir sėkmingai nuteisti, sako G. Wrightas. Bet sutinka, kad iki sprendimų priėmimo galimybės judrioje miesto aplinkoje dar toli gražu.
Net jei mašinos gebėtų atskirti taikinius, kokios jų galimybės priimti moralius sprendimus, remiantis tokiais duomenimis? R. Arkinas teigia, kad galėtume sukurti programinę įrangą, veikiančią kaip „etinis valdytojas“ nustatantis roboto atsaką įvairiomis aplinkybėmis. Tačiau būtinas tokios programinės įrangos sudėtingumas reiškia, kad šie pasiūlymai tebėra projektuojami. Kol kas valdymo funkcijas privalo atlikti žmogus.
Įsakymas šauti
Tačiau ką tai reiškia? Debatai apie žudikus robotus sukasi apie šį klausimą ir siūlymas juos uždrausti pavyks ar sužlugs priklausomai nuo to, ką vadinsime žmogaus įsakymu šauti. Priimtino apibrėžimo nėra. Yra dar viena problema: susitelkimas vien į žudikų robotų klausimą užgožia fundamentalesnes žmonių ir mašinų sąveikos problemas. Vien todėl, kad grandinėje yra yra žmogus, nereiškia, kad žudymo pažangiomis technologijomis problemos išnyko.
Pavyzdžiui, 2003 metais, JAV „Patriot“ raketų baterijos operatorė gavo automatinį pranešimą apie aptiktą atskrendančią Irako raketą. Jai per sekundės dalį reikėjo apsispręsti ir pasirinkti apsauginius veiksmus, leidžiant baterijai šauti. Bet taikinys pasirodė esantis RAF „Tornado“ lėktuvas, kurio du pilotai žuvo, pataikius „Patriot“ raketai. Kas nutiko ne taip? Sistema akivaizdžiai neteisingai atpažino orlaivį. Bet tyrimas išsiaiškino, kad taip nutiko, kadangi operatoriai nebuvo tinkamai mokomi. Todėl sistema nebuvo prijungta prie platesnio tinklo, kuris būtų informavęs, kad lėktuvas užmezgė ryšį su oro transporto kontrolieriais ir grėsmės nekelia. Šiuo atveju žmogaus buvimas grandinėje ko gero buvo problemos priežastis.
Kaip besibaigtų JT svarstymas, iškelti klausimai apie autonomines ginklų sistemas nėra tokie paprastai, kokie gali pasirodyti iš pirmo žvilgsnio. Visiškai autonominės ar ne, mašinos jau yra karo dalis ir pažadas grandinėje išlaikyti žmones nėra garantija, kad nenutiks klaidų. Mašinos nesupaprastina karo, bet daro jį sudėtingesnį. Tai bendras jų ir mūsų bruožas.
Grandinėje
Dronų atsiradimas karo lauke padidino nuotoliniu būdu valdomų karinių aparatų svarbą. Žmonės lieka „grandinėje“, tačiau tai nereiškia, kad nėra problemų. O „grandinėje“ gali reikšti nuo beveik visų nuotoliniu būdu valdomų aparatų aspektų valdymo iki paprasto atsakymo „taip“ ar „ne“, kai jo paklausiama ar automatiškai pasirinktas taikinys turėtų būti sunaikintas.
Nancy Cooke yra dronų pilotavimo psichologinio poveikio ekspertė Arizonos valstijos universitete. Pagal kontraktą su JAV armija ji konsultuoja dėl „žmogiškų sistemų integracijos“ – kaip gerai žmonės kontroliuoja valdomas mašinas. „Predator“ ir „Reaper“ dronų pilotams tai reiškia „lėktuvo kabiną“ karinėje bazėje, valdančioje už tūkstančių kilometrų skriejančius aparatus.
Kontrolės išlaikymas
N. Cooke tyrimas padeda identifikuoti dronų pilotavimo aspektus, kurie galėtų būti patobulinti, treniruočių aspektus, kurie gali būti pakeisti, kad teiktų daugiau naudos pilotams, ir situacijas, kai svarbiausia socialinė ir psichologinė parama.
Viso to tikslas yra žmogui suteikti visą kontrolę, sako N. Cooke – tačiau tai nėra lengva. Dronų operatoriai patys nesprendžia ar žudyti, nors atlieka visas tam būtinas funkcijas. Begalinių prieš akis slenkančių jų veiklos vaizdų ir nuolat girdimų šalia esančio vado komandų poveikis nėra trivialus.
N. Cooke sako, kad operatoriai apibūdina save kaip „autobuso vairuotojus“ ar jaučiasi surobotinti, tuo tarpu jų vadus perkrauna „Predator crack“ – iš dronų transliuojami vaizdai. Žmonių pašalinimas iš fronto linijos sukūrė keistą situaciją, kai pilotai geriau mato savo veiklos poveikį, tačiau jaučiasi mažiau kontroliuojantys, sako N. Cooke.
„Kūno dalių ir žaizdų vaizdai, žuvusieji ir daugybė sugriovimų,“ paaiškina ji. „Bet jau operatoriai man sako, kad tai išties siaubingas dalykas, kadangi tai ne tik visiškai tikra, tai, ką ką tik padarei. Kitaip, nei tada, kai tiesiog ateini ir išeini ir išties nepamatai, ką padaręs.“
Ginklų kontrolė – nuo arbaletų iki kasetinių bombų
Ji draudžia biologinių ginklų gamybą ir kaupimą (biologinio ginklo naudojimas jau buvo neteisėtas pagal 1925-ųjų Ženevos protokolą). Sutartį ratifikavo 170 šalių – Egiptas ir Sirija sutartį pasirašė, bet neratifikavo, o Izraelis yra, ko gero, svarbiausia jo nepasirašiusi valstybė.
Ja draudžiama cheminių ginklų gamyba ir kaupimas (kaip ir biologinio ginklo atveju, jų naudojimas yra neteisėtas pagal 1925 m. Ženevos protokolą); Ją ratifikavo 190 šalių – Izraelis ir Birma pasirašė, bet neratifikavo, tuo tarpu Egiptas ir Šiaurės Korėja nepasirašė.
Ja draudžiama naudoti, gaminti ir kaupti sausumos pėstininkų minas. Sutartį priėmė 162 valstybės; 34 JT valstybės, tarp kurių Kinija, Egiptas, Izraelis, Šiaurės ir Pietų Korėja, Rusija ir JAV – ne.
