Įsivaizduokite visuomenę, kurioje valdžia, įvertinusi jūsų patikimumą, priskiria jums tam tikrą įvertį. Šis vadinamasis piliečio balas yra neatsiejamas nuo jūsų. Aukštas balas leidžia naudotis spartesniu internetu arba greičiau gauti vizą keliaujant į Europą. Tačiau jis gali sumažėti, jei be leidimo internete skelbsite politinius pranešimus, dvejosite oficialia valdžios pozicija dėl einamųjų įvykių arba jai prieštarausite. Apskaičiuojant šį balą su valdžia bendradarbiaujančios privačios bendrovės nuolat apdoroja daugybę duomenų apie jūsų veiklą socialinėje žiniasklaidoje ir internetinius pirkinius.
Renkama informacija ir apie tai, ką veikiate išėję pro duris į realų pasaulį: daugybę duomenų valdžia kaupia per vaizdo kameras, įrengtas jūsų gatvėje ir visame mieste. Padarius nusikaltimą ar net neatsargiai perėjus gatvę, veido atpažinimo algoritmai palygins vaizdo įraše užfiksuotą jūsų atvaizdą su nuotrauka nacionalinėje tapatybės dokumentų duomenų bazėje ir neužilgo į jūsų duris pasibels policija.
Tokia visuomenė gali pasirodyti distopinė, bet tai nėra itin didelis pramanas: po kelerių metų būtent taip gali atrodyti Kinija, teigia straipsnio autoriai. Ši šalis skuba pirmoji visame pasaulyje įdiegti visuotinę algoritminio sekimo sistemą. Pasitelkusi pažangą dirbtinio intelekto ir duomenų rinkimo bei saugojimo srityse komunistinė vienpartinė Kinija kaupia išsamias visų gyventojų bylas ir kuria piliečio balą, kuriuo ketina skatinti „gerą“ elgseną.
Platus vaizdo kamerų tinklas, kuriuo esą siekiama mažinti nusikalstamumą ir terorizmą, nuolat stebės, ką veikia gyventojai. Galbūt plečiantis šiai orveliškai akiai visuomenė išties taps saugesnė, bet šalyje, pagarsėjusioje valdžios priespauda ir kontrole, naujoji sistema kelia rimtų grėsmių pilietinėms laisvėms.
Po didinamuoju stiklu
Kinijos plėtojamoje algoritminio sekimo sistemoje filtruoti, rinkti ir analizuoti daugybę internete plūstančių duomenų bus pavesta komunistinės vienpartinės valstybės teisėsaugos institucijoms. Teisindamasi, kad tokia kontrole siekiama užtikrinti nacionalinį saugumą ir visuomenės stabilumą, Kinija iš pradžių planavo sukurti vadinamąją „Auksinio skydo“ sekimo sistemą, kuri leistų lengvai prieiti prie vietos, nacionalinių ir regioninių duomenų apie visus gyventojus.
Šis ambicingas projektas kol kas tėra turinį filtruojanti „Didžioji ugniasienė“, neleidžianti pasiekti užsieninių interneto svetainių, tokių kaip „Google“, „Facebook“ ir „The New York Times“. Kaip tvirtina tarptautinė nevyriausybinė organizacija „Freedom House“, Kinijoje interneto laisvės lygis jau yra prasčiausias pasaulyje. Bet dabar šalies Komunistų partija galiausiai kuria visuotinę daugialypę duomenų rinkimo sistemą, apie kurią svajojo jau ne vieną dešimtmetį.
Kinijos vyriausybė seniai stebi bet kokias piliečių neištikimybės režimui apraiškas, bet tik dabar ėmė kaupti visapusiškus nuolat atnaujinamus išsamius visų piliečių aprašus, kuriuose fiksuojami politiniai įsitikinimai, komentarai, ryšiai ir net vartojimo įpročiai. Pagal naująją socialinio kredito sistemą sujungus šūsnis privačių bendrovių ir valstybės tarnybų duomenų kiekvienam Kinijos gyventojui bus priskirtas vadinamasis piliečio balas.
Išsamiame 2014 m. plane Kinijos komunistų partija gana išsamiai aiškina tikslą „palaikyti pasitikėjimą ir apribojimus, kad nebūtų pamintas pasitikėjimas“. Kol kas ši sistema savanoriška, bet 2020 m. taps privaloma. Jau dabar 100 tūkst. kinų socialinėje žiniasklaidoje puikuojasi aukštais balais bendrovės „Alibaba“ valdomoje programėlėje „Sesame Credit“ – šią privataus sektoriaus iniciatyvą galima laikyti siūlomos valstybinės sistemos pirmtake.
Milžiniškas el. prekybos konglomeratas skelbia, kad jo programėlė tik seka vartotojų finansų ir kredito elgseną, bet žada ateityje pasiūlyti „vispusį asmeninį įvertį“. Nesunku įsivaizduoti, kad neužilgo daugelis kinų ims puikuotis ir valstybiniais balais.
Ar yra riba?
Kol kas dar neaišku, kokie duomenys bus vertinami, bet apžvalgininkai jau dabar nerimauja dėl sistemos aprėpties. Planuojamam „pilietinio kredito“ balui greičiausiai bus pasitelkta gerokai daugiau duomenų, nei Vakarų valstybėse taikomam FICO įverčiui, kuris padeda skolintojams greitai ir patikimai nuspręsti, ar saugu suteikti finansinę paskolą.
Tuo metu Kinijos valdžia, nepaisydama vartotojų privatumo, kaupia daugybę duomenų apie internetinius pirkinius, todėl šios šalies ir interneto privatumo ekspertai spėja, kad kinų kredito balas greičiausiai bus didesnis perkant režimui priimtinus daiktus, pavyzdžiui, sauskelnes, ir žemesnis įsigyjant tai, kas valdžiai nepatinka, kaip antai kompiuterinius žaidimus arba alkoholinius gėrimus.
Pastarasis įvertis paprasčiausiai nustato, ar sumokate savo skolas ir gerai tvarkotės su pinigais. Tuo metu Kinijos valdžia, nepaisydama vartotojų privatumo, kaupia daugybę duomenų apie internetinius pirkinius, todėl šios šalies ir interneto privatumo ekspertai spėja, kad kinų kredito balas greičiausiai bus didesnis perkant režimui priimtinus daiktus, pavyzdžiui, sauskelnes, ir žemesnis įsigyjant tai, kas valdžiai nepatinka, kaip antai kompiuterinius žaidimus arba alkoholinius gėrimus.
Piliečio balą gali nulemti ne tik el. prekyba, bet ir politinė veikla: įvertis sumažėtų be išankstinio sutikimo internete išsakant nuomonę politiniais klausimais ar net skelbiant Kinijos valdžiai neparankias tikras naujienas.
Dar daugiau nerimo kelia tai, kad iš esmės valdžia turės galimybę pagal gyventojo balą spręsti apie jo draugų bei artimųjų elgseną. Pavyzdžiui, jūsų balas gali sumažėti dėl to, kad draugas paskelbė valdžią kritikuojantį pranešimą. Taigi ši vertinimo sistema atskirtų disidentus nuo draugų ir kitų piliečių ir išstumtų juos į visuomenės paribį, rašo A.Mitchell ir L.Diamondas.
Gali būti, kad balas net nulems galimybę gauti tam tikras privilegijas, kurios Vakarų šalyse laikomos duotybe, pavyzdžiui, vizą kelionei į užsienį ar net teisę važiuoti traukiniu ar skristi lėktuvu šalies viduje. Vienas interneto privatumo ekspertas įspėja: „Iš esmės Kinija užsiima gyventojų selekcija norėdama išnaikinti kritinę nepriklausomą mąstyseną.“
Vakarų šalių gyventojams ir ypač pilietinių laisvių organizacijoms, tokioms kaip Amerikos pilietinių laisvių sąjunga (ACLU), ši perspektyva kelia siaubą (vienas apžvalgininkas ją įvardijo kaip „žaidimu paverstą autoritarizmą“), kiti tvirtina, kad daugeliui kinų siūloma sistema patinka, nes šalyje iš esmės trūksta pasitikėjimo.
Vis dėlto valstybinė partijos sumanyta duomenimis grindžiama stebėsenos sistema Vakarų valstybėse kelia sudėtingų klausimų dėl privačių bendrovių vaidmens valdžiai sekant piliečius. Ar privačioms įmonėms etiška prisidėti prie visuotinio sekimo ir perduoti duomenis valdžiai? „Amazon“ atitikmuo Kinijoje „Alibaba“ ir populiariosios pranešimų programėlės „WeChat“ savininkė „Tencent“ turi daugybę duomenų apie visus Kinijos gyventojus. Norint apskaičiuoti minėtąjį piliečio balą valdžiai tektų šiuos duomenis rinkti pačiai.
Dabar kinų bendrovės privalo padėti valdžiai šnipinėti, o JAV bendrovės – ne, bet nesunku įsivaizduoti „Amazon“ „Alibaba“ padėtyje arba „Facebook“ vietoje „Tencent“. Tam tikros privačios įmonės, kaip antai kreditingumo vertinimo biurai, nuo seno naudoja duomenis vartotojų kreditingumui įvertinti, bet priimtinoje visuomenėje derėtų aiškiai atskirti privataus ir viešojo sektorių vertinimo mechanizmus, galinčius negrįžtamai nulemti pilietines teises ir privilegijas.
Ne tik duomenys
Ši planuojama duomenimis grindžiama socialinio kredito sistema yra tik vienas sparčiai besiplečiančios Kinijos algoritminio sekimo sistemos aspektas. Kita pusė – tai didžiulis technologijų, ypač stebėjimo kamerų, tinklas žmonėms realiame pasaulyje sekti.
2015 m. Kinijos nacionalinė policija – Viešojo saugumo ministerija – paragino sukurti „visuotinį visiškai sujungtą, visada veikiantį ir valdomą“ nacionalinį stebėjimo kamerų tinklą. Ši ministerija ir kitos tarnybos tvirtino, kad teisėsauga turėtų taikyti veido atpažinimo technologiją ir vaizdo kameras nusikaltėliams gaudyti. Informacijos analizės bendrovės „IHS Markit“ vertinimu, šiandien Kinijoje įrengta 176 mln. vaizdo kamerų. Planuojama, kad 2020 m. jų bus 450 mln. Kaip tvirtina Pekino viešojo saugumo biuras, šiuo metu stebėjimo kameros apima visą Pekiną.
Sakoma, kad šia sistema siekiama gaudyti ir atgrasyti nusikaltėlius. Tačiau esama ir akivaizdžių didelių pavojų privatumui bei toms negausioms laisvėms, kurias kinams pavyko išsikovoti po maoistinio laikotarpio. Bausmės už smulkius nusikaltimus atrodo pernelyg didelės: Fudžou valdžia vietos žiniasklaidoje skelbia netvarkingai gatves kertančių asmenų vardus ir net siunčia šią informaciją pažeidėjų darbdaviams.
Dar labiau baugina bausmės, kurių gali sulaukti asmenys, bendraujantys su disidentais arba kritikais, platinantys peticijas, laikantys protesto plakatus ar paprasčiausiai netinkamu laiku pasirodę netinkamoje vietoje. Nenuostabu, kad diegiama visareginti valstybinė akis neramina viso pasaulio pilietinių teisių ir privatumo gynėjus.
Dangstydamasi siekiu palaikyti stabilumą valdžia jau dabar nuolat stebi žmogaus teisių aktyvistų mobiliuosius telefonus ir socialinės žiniasklaidos paskyras. Vaizdo stebėjimo sistema tik dar labiau išplės visuotinį represinį sekimą. Gyventojų privatumui pakenktų ir vieša prieiga prie vaizdo kameromis nufilmuotos medžiagos: ilganosis kaimynas galėtų šnipinėti greta gyvenančią reikalus tvarkančią ar atostogauti važiuojančią šeimą.
Kinijos eksperimentai su skaitmeniniu sekimu kelia didelę naują grėsmę išraiškos laisvei internete ir kitoms žmogaus teisėms Kinijoje, teigia A.Mitchell ir L.Diamondas. Vis dažniau piliečiai susilaiko nuo bet kokios nepriklausomos ar kritiškos išraiškos baimindamiesi, kad valdžia perskaitys jų duomenis, įrašys veiksmus ir nubaus. Būtent to ir siekiama šia programa.
Negana to, pasak straipsnio autorių, tai, kas atsirado Kinijoje, neliks vien ten. Represinės šios šalies technologijos neretai prasismelkia į kitus autoritarinius režimus visame pasaulyje. Dėl šios priežasties (jau nekalbant apie nerimą dėl šimtų milijonų kinų, kurių ir taip ribotos laisvės bus dar labiau suvaržytos) viso pasaulio demokratinės valstybės turi stebėti ir smerkti šį nelemtą artėjimą prie orveliškos santvarkos.
