Bet nors fantastiniuose romanuose pilna įspėjančių pasakojimų apie tai, kas nutinka, kai ginklai atsiduria šaltose metalinėse mašinų rankose, situacija nėra tokia paprasta kaip „žmonės geri, robotai blogi“.
Jei roboto valdomas automobilis kelia mažesnę grėsmę, nei vairuojamas žmogaus, gal tas pats pasakytina ir apie karines technologijas?
Kad tai suprastume, turėtume panagrinėti, ką žmonės kalba apie bepiločių automobilių, kuriuos šalininkai vertina kaip būdą sumažinti nelaimingų atsitikimų skaičių, etiką. Jei roboto valdomas automobilis kelia mažesnę grėsmę, nei vairuojamas žmogaus, gal tas pats pasakytina ir apie karines technologijas?
Aišku, kario pakeitimas robotu suteikia saugumą pakeistajam asmeniui, bet ginkluoti robotai galėtų sumažinti ir civilių aukas. Pavyzdžiui, pastatą turinti užimti karių grupė privalo per sekundės dalį nuspręsti, ar kambaryje ginkluotas įsibrovėlis, ar nekaltas civilis – bet koks delsimas gali kainuoti gyvybę. Robotas gali laukti patvirtinimo, kol priešas pradės šaudyti.
Tas pats principas galioja ir smūgiams iš oro. Autonominė sistema virš taikinio gali praskristi kelis kartus, kad įsitikintų, jog tai iš tiesų priešas, tuo tarpu pilotas gali rizikuoti praskrisdamas tik kartą. Abiem atvejais vienintelis nuostolis – dėl didelio atsargumo prarastos mašinos, bet ne žmonių gyvybės.
Žmonių teisių grupės tiksliai taikinius naikinančius ginklus vertina kaip pagrindinį būdą išvengti civilių aukų; grubių nevairuojamų bombų naudojimas laikomas beatodairišku ir neatsakingu poelgiu. Ar toks moralinis pateisinimas taikytinas ginkluotų robotų kūrimui?
„Negalime tiesiog paprasčiausiai susitaikyti su civilių mirčių status quo“, – sako Ronaldas Arkinas, robotikos specialistas iš Džordžijos technologijos instituto (JAV), raginantis reguliuoti ginkluotų robotų naudojimą, o ne drausti. – „Turime siekti to, kas geriau“.
Daugelyje ginklų sistemų dalyvauja ir žmogus, tad galutinis sprendimas žudyti padaromas ne autonomiškai, bet kai kurie ginklai turi daugiau veiksmų laisvės, pavyzdžiui, Karališkojo oro laivyno naudojamos „Brimstone“ raketos. Operatorius gali apibrėžti žemėlapyje sritį ir paleisti sviedinių salvę – šie nurodytoje teritorijoje ieškos tankų, ir, aptikę juos, atakuos, o neaptikę – saugiai detonus.
Žmogaus sprendimai tokiose situacijose gali būti klaidingi. 2003 metais mirtinai pasibaigusio „draugiškos ugnies“ incidento metu du JAV pilotai britų šarvuočius klaidingai palaikė Irako armija, nepaisant oranžinių skydelių, rodančių, kad tai draugiškos pajėgos ir fakto, kad jie buvo „ne mūšio“ zonoje.
Tad, ar gali robotai atlikti geresnius sprendimus, nei žmonės? R.Arkinas teigia, kad mašinos nedarytų „scenarijaus atitikimo“ kognityvinių klaidų, dėl kurių, manoma, įvyko Irano keleivinio lainerio tragedija 1988 metais. Lėktuvui skrendant link JAV karinio laivo, radaro operatoriai pranešė, kad jis leidžiasi atakai ir buvo numuštas – žuvo visi 290 lėktuve buvusių žmonių. Vėlesnė radaro įrašų analizė parodė, kad lėktuvas kilo. Radaro operatoriai įsivaizdavo, kad yra atakuojami ir nesąmoningai duomenis pritaikė prie tokio scenarijaus, alternatyvią interpretaciją ignoruodami.
Bet Bonnie Docherty, Harvardo teisės mokyklos (JAV) lektorė ir „Human Rights Watch“ tyrėja, nurodo dirbino intelekto ribotumą, ypač tokiose sudėtingose karo zonose kaip Irakas. „Robotai negebėtų suprasti viso situacijos sudėtingumo ar interpretuoti žmogaus elgesio niuansų“, – sako ji. – „Jiems sunku būtų atskirti kareivius nuo civilių“.
Bepilotė problema
Jeigu nuotolinis valdymas neįmanomas, bepilotės sistemos turės būti visiškai autonomiškos.
Bet robotus nuo pavadžio gali tekti paleisti greičiau, nei norėtume. Naujos taktinės ryšio trikdymo sistemos, pavadintos „DroneDefender“ ir „DroneShield“, yra skirtos nutraukti radijo ryšį tarp operatoriaus ir bepiločio orlaivio, ir vis dažniau pasirodo mūšio lauke. Orlaiviai, kurios JAV dovanojo Ukrainai, pasirodė esantys beverčiai dėl rusiškų trikdžių įrenginių. Jeigu nuotolinis valdymas neįmanomas, bepilotės sistemos turės būti visiškai autonomiškos (Žr. „Rusijos robotų armija“).
R.Arkinas siūlo geresnį sprendimą. Užuot palikus robotus vykdyti įsakymus taip, kaip jiems atrodo geriausia, ginkluoti robotai galėtų būti aprūpinti „etikos gido“ programine įranga, atsižvelgiančia į tarptautinę teisę, sako jis.
Pavyzdžiui, jei potencialus taikinys negali būti patvirtintas kaip tinkamas, etikos vadovas gali pareikalauti, kad robotas imtųsi tam tikrų veiksmų, tarkime, prisiartintų ir geriau apžiūrėtų. Ji taip pat galėtų vetuoti ataką, jei, tarkime, zonoje yra civilių.
Atsimenant ilgą karo žiaurumų istoriją, galintys žudyti robotai keltų mažesnę grėsmę nei galintys žudyti žmonės. Kaip ir autonominiai automobiliai, mašinos gali geriau laikytis įstatymų, kuriuos žmonės linkę laužyti.
R.Arkinas nurodo vaizdo įrašą iš Irako, kuriame sraigtasparnio įgula paklūsta įsakymams šauti ir nužudyti sužeistą priešininką. Robotas su įdiegtu etikos vadovu tokiam įsakymui nepaklustų dėl teisinių priežasčių, sako jis. Kitaip nei žmogus, robotas nejaustų troškimo veikti neteisėtai, siekdamas keršto, ar baimindamasis viršininkų. Atsimenant ilgą karo žiaurumų istoriją, galintys žudyti robotai keltų mažesnę grėsmę nei galintys žudyti žmonės. Kaip ir autonominiai automobiliai, mašinos gali geriau laikytis įstatymų, kuriuos žmonės linkę laužyti.
Etikos vadovo koncepcija tebėra ankstyvojoje stadijoje, nors R.Arkinas mano, kad būsimi dirbtini intelekto pasiekimai padarys tai įmanomu dalyku. Tačiau kai kam tai yra ne tiek techninė problema, kiek fundamentalus etikos klausimas.
„Visiškai autonomiški ginklai kelia ir daugybę kitų klausimų, kurie nėra susiję su gebėjimu atskirti karinius objektus nuo civilių“, – sako B.Docherty. – „Gyvybės ir mirties sprendimo priėmimo delegavimas mašinai peržengia moralinį slenkstį“.
Bet šį slenkstį jau dabar peržengė rinkoje esantys automobiliai, tokie, kaip „Tesla“, kurie gali persirikiuoti į kitą juostą be žmogaus įsikišimo. Patrickas Linas, filosofas iš Kalifornijos valstijos politechnikos universiteto (JAV), sako, kad tai atskleidžia norinčiųjų uždrausti robotus žudikus dvigubus mąstymo standartus.
„Nesu girdėjęs, kad kas reikalautų žmogaus kontrolės autonominiame automobilyje“, – sako P.Linas. – „Jeigu tai yra išties etikos reikalavimas žudyti galinčiam robotui, būtų logiška tai pritaikyti ir kitoms mašinoms, kurios gali nužudyti, tarkime, autonominiams automobiliams“.
Aišku, robotų žudikų paskirtis yra žudyti, tuo tarpu autonominis automobilis nužudyti gali tik atsitiktinai. Bet, P.Lino manymu, ši takoskyra nėra svarbi.
Robotai automobiliai per metus gali nužudyti daugiau žmonių atsitiktinai, nei kariniai robotai, nes robotų automobilių būtų daug daugiau.
„Robotai automobiliai per metus gali nužudyti daugiau žmonių atsitiktinai, nei kariniai robotai, nes robotų automobilių būtų daug daugiau. Jei leidžiame autonominiams automobiliams spręsti gyvybės ir mirties klausimus, tada turėtume priimti ir robotus žudikus – arba atmesti juos abu“, – sako jis.
Sydney Levine iš Masačusetso technologijų instituto (JAV) tiria su autonomobiliais susijusius etinius klausimus ir taip pat mato tiesiogines paraleles. Savo darbe ji siūlo autonominių automobilių elgesio etines gaires.
„Pradedame nuo psichologinio klausimo. Kaip žmonės suvokia autonominius ginklus, kaip jiems priskiria kaltę, priežastingumą ir moralinę atsakomybę?“, – svarsto S.Levine.
Atsakymai į šiuos klausimus turėtų padėti priimti informuotus reguliavimo politikos sprendimus. Politiniai bepiločių automobilių reguliavimo svarstymai išryškino tam tikrą mąstymo nenuoseklumą: norime, kad automobiliai darytų kuo mažiau žalos, bet tuo pačiu norime, kad mūsų automobiliai saugotų mus, o ne kitus. O kaip gi tuomet, jeigu saugant mus neišvengiamai žūtų daugiau žmonių? Visuomenės požiūris į robotus žudikus gali pasirodyti esantis toks pat paradoksalus.
Tad, gal reikėtų permąstyti robotų žudikų draudimą. „Turime nedelsdami juos reguliuoti, bet uždraudimas būtų pernelyg ankstyvas“, – sako R.Arkinas. Apginkluotos mašinos reikštų mažesnę riziką kareiviams ir mažesnę nekaltų civilių žuvimo galimybę, bet tik tuo atveju, jeigu sukursime atitinkamų saugiklių technologiją. Jei bus įgyvendintas jų uždraudimas, to nenutiks – ir civilių mirtys tęsis kaip ir anksčiau.
Rusijos robotų armija
Nors Rusijos bepiločių orlaivių technologijos atsiliko nuo JAV kariuomenės, robotų karą ant žemės Rusija tikisi laimėti. 2013 metais pradėta iniciatyva sukūrė ginkluotus antžeminius robotus, mažus robotus, galinčius veikti patalpose, ir netgi tankus, dalis kurių gali veikti autonomiškai.
Pavyzdžiui, „Uran-9“ yra robotas mini-tankas, apginkluotas patranka arba prieštankinėmis raketomis; Rusijos armijai pateikti 22 tokie įrenginiai, kurie tarnybą turėtų pradėti kitais metais. „Uran-9“ gali būti valdomas nuotoliniu būdu, bet turi ir visiškai autonominį režimą, kuriuo veikdamas, gali aptikti, identifikuoti ir apšaudyti taikinius pats.
Vadimas Koziulinas iš PIR Politikos tyrimų centro, sako, kad ginkluotų robotų plitimas lėtas, nes daugelis toliau pasiūlymo stadijos nežengia. Rusijos kariuomenė užsakė ne autonomines žudymo mašinas kaip tokias, o pusiau autonominius įrenginius, galinčius veikti autonomiškai, jeigu dėl priešo naudojamų trikdžių prarandamas ryšys su kontroliuojančius žmogumi.
Dėl tokio autonomiškumo poreikio, kaip ir sausumos minų bei kasetinių bombų, draudimo, galinčio sumažinti karines jos galias, Rusija nepasirašys, teigia V.Koziulinas.
„Kol kas Rusija nenori paremti draudimo. Dabar vertinama situacija ir ši pozicija gali pasikeisti“, – sako V.Koziulinas.
