Botų ir trolių pinklės: ne tik skleidžia dezinformaciją, bet ir gali užgrobti jūsų paskyrą

Inovacijų agentūros tinklalaidėje „Ateities architektai“ Kibernetinio saugumo kompetencijų centro vadovas dr. Šarūnas Grigaliūnas įspėja: „Gali būti, kad jums nežinant, jūsų telefonas jau yra botų dalis ir dalyvauja, kaip pranešėjas jūsų vardu“, – sako mokslininkas.

VIDEO: ATEITIES ARCHITEKTAI #5: Botų ir trolių pinklės: kaip nepakliūti į dezinformacijos spąstus

ATEITIES ARCHITEKTAI #5: Botų ir trolių pinklės: kaip nepakliūti į dezinformacijos spąstus

Kas yra botai ir troliai?

Tai dažnai girdimas terminas, tačiau, kartais gali būti sunku suprasti, kas tai per mechanizmai ir kaip jie veikia. Kaip sako kibernetinio saugumo srityje dirbantis „Acrux cyber services“ vadovas Jokūbas Drazdas, botai yra susiję su dezinformacijos klaida. „Tai dirbtinai sukurti automatizuoti sprendimai, kurie generuoja tam tikrą, pavyzdžiui, tekstą, kad galėtų platinti tam tikrą informaciją“, – sako J.Drazdas. Jo teigimu, šioje temoje labiausiai dėmesį reiktų atkreipti į socialinius tinklus, kurie tampa labai patogia terpe jiems veikti ir skleisti melagienas, ar kurstyti neapykantą.

“Botų fermos yra grupė automatizuotų sprendinių, kurie yra nukreipti į kažkokį vieną veiksmą, ir vykdo tam tikrą kampaniją“, – akcentuoja J. Drazdas. Jis sako, kad darosi vis sunkiau juos atskirti nuo tikrų vartotojų ir informacijos kūrėjų. „Anksčiau botai veikdavo labai atvirai, koordinuotai ir atkartodavo tuos pačius veiksmus, todėl juos būdavo lengviau identifikuoti. Šiandien jie darosi hibridiniai, kur veikia ne tik „mašininiai“ sprendimai, bet ir žmogaus indėlis – turinys labiau personalizuojamas“, – pasakoja J.Drazdas.

Ateities architektai apie botus / Tinklalaidė „Ateities architektai“

Minėti botai savo veikimo specifika skiriasi nuo trolių. Kaip pagrindinį skirtumą J.Drazdas įvardina žmogiškąjį indėlį. Botai yra labiau techniniai sprendimai, o troliai reikalauja daugiau žmogiškojo įsikišimo.

Pasak J.Drazdo, trolių fermos dažniausiai siekia skleisti netikrą informaciją ir taip paveikti visuomenę, pavyzdžiui, socialiniuose tinkluose ar forumuose. Jų kuriamas turinys gali būti tiek ekonominės, tiek politinės tematikos, siekiant sukelti „visuomenės nepasitenkinimą, nepasitikėjimą, suskaldymą, manipuliuoti žmonių politinėmis pažiūromis, ypač rinkimų metu, siekiant iškelti tam tikrus kandidatus“, – akcentuoja J. Drazdas.

Kibernetinio saugumo kompetencijų centro vadovas dr. Šarūnas Grigaliūnas pritaria, kad botas yra „labiau automatizuotas veiksmas“. Jis atkreipia dėmesį, kad tai yra didelė grėsmė ir žiūrint iš kibernetinio saugumo pusės: „Gali būti, kad jums nežinant, jūsų telefonas yra bot dalis ir dalyvauja kaip pranešėjas jūsų vardu“, – perspėja mokslininkas.

Jis pateikia paprastą pavyzdį, iliustruojantį, kaip tai galėtų veikti. „Pavyzdžiui, jūs paspaudėte „patinka“ ant kokios nors kačiuko ar šuniuko nuotraukos, kur buvo parašyta: „štai mano augintinis“. Po to, turinio kūrėjas pakeitė nuotrauką ir užrašą. O jūsų patiktukas jau liko. Taigi jūs esate šito dalis“, – sako dr. Š.Grigaliūnas. Jo nuomone, troliai, lyginant su botais, yra labiau strategija, kurios esmė yra sukelti mums abejonę – jei tai pavyksta – „mes esame „trolinami“, – sako mokslininkas dr. Š.Grigaliūnas.

Kaip galime apsisaugoti nuo šių grėsmių?

Turinio kūrėjo veiksmų, nepaisant to, ar jis yra botas, ar tikras žmogus, kontroliuoti negalime. Taigi ir negalime numatyti, kad nuotrauka, kuriai ką tik uždėjome patiktuką, vėliau bus pakeista. Taip pat negalime pakeisti algoritmo, kuris, matydamas, kad tam tikras turinys sulaukia daug dėmesio, iškelia jį aukščiau, kad jį pamatytų kuo daugiau žmonių. Tačiau kaip tuomet galime atsilaikyti prieš trolių ir botų vykdomas manipuliacijas?

Dr. Šarūnas Grigaliūnas / Tinklalaidė „Ateities architektai“

Inovacijų agentūros tinklalaidės „Ateities architektai“ pašnekovai sako, kad vieno atsakymo į šį klausimą nėra, taigi pirmiausiai turėtume remtis savo kritiniu mąstymu ir ugdyti kitus susijusius įgūdžius. „Daugelis žmonių informaciją ir netgi naujienas vartoja per socialinius tinklus. Žiūrint iš psichologinės pusės, jeigu mes, žmonės, turime galvoje kokią nors idėją, kuria tikime, ir dar ją gauname iš šalies, tai iškart sužadina mums norą ja pasidalinti“, – aiškina J.Drazdas. Tačiau tai ne visada yra gera mintis.

Viso vartojamo turinio patikrinti nesugebėsime, tačiau J.Drazdas sako, kad galime valdyti tai, kaip į jį žiūrime: „Ne viską, ką pamatome, reikia priimti už gryną pinigą“. J.Drazdo teigimu, reikia žiūrėti kritiškai ir bent jau nesidalinti įtartina informacija, nes melagingos informacijos platinimas stipriai prisideda trolių ar botų tikslų – kuo plačiau paskleisti dezinformaciją ir atitinkamai paveikti visuomenę. Taigi dalindamiesi tampame dezinformacijos grandinėlės dalimi.

Kaip būdą informacijai patikrinti, J.Drazdas rekomenduoja visada atkreipti dėmesį į informacijos šaltinį: kas yra jos kūrėjas, platintojas, ar jis patikimas. „Visada galima pasitikrinti internete, ar ta informacija yra skleidžiama ir kituose patikimuose šaltiniuose. Kalbant apie socialinius tinklus, jei paskyra arba grupė yra abejotina, turėtų įsijungti kritinis mąstymas, klausiantis, ar šita informacija yra tikra. Žinoma, kartais dezinformacija būna sumaišyta su tiesa, tada atskirti tampa tikrai sunku“, – sako J. Drazdas.

Dezinformacijai plisti kartais parankūs ir mūsų įpročiai

Inovacijų agentūros „ICT Lab“ srities vadovas Romanas Zontovičius atkreipia dėmesį į tai, kad Elonas Muskas, nupirkęs socialinį tinklą „Twitter“ ir pakeitęs jo pavadinimą į „X“, paskelbė, jog dabar toje platformoje nebeliks jokio informacijos tikrinimo. Pasak R. Zontovičiaus, „Facebook“, panašu, kad irgi judės link platformos atvėrimo absoliučiai visoms nuomonėms, ir tai mus palies. Tikėtina, kad turėsime dar daugiau įtartino turinio, kuriam bus sudarytos sąlygos skleistis.

Elonas Muskas / „Scanpix“/AP nuotr.

Kaip sako R.Zontovičius, turime ne tik galvoti, kaip techniškai išvengti dezinformacijos grėsmių, bet ir atkreipti dėmesį į savo informacijos vartojimo įpročius, bei kanalus, kuriais ją gauname. „Pavyzdžiui, aš į turinį „Instagram“ ar „Facebook“ platformose žiūriu tik kaip į pramoginį turinį. Kuo tu giliau domiesi, tuo labiau supranti, kad ne viskas taip paprasta, kaip parodyta „TikTok“ per vieną minutę“, – sako R.Zontovičius ir taip pat ragina kuo labiau tikrinti informaciją.

Čia atsiveria ir mūsų mąstymo spragos, kurias nulėmė tobulėjančios technologijos. Šiandien, ieškodami informacijos, mes nebenorime mąstyti – norime greito ir aiškaus atsakymo: „Anksčiau klausdavome klausimo „Google“ ir jis duodavo mums 1000 atsakymų. Ir tada iš jų rinkdavomės. Dabar, dirbtinio intelekto amžiuje, tu suvedi klausimą, ir nori vieno atsakymo: juoda arba balta“, – atkreipia dėmesį R. Zontovičius. Anot jo, toks mąstymas, siekiant gauti vieną kategorišką ir aiškų atsakymą yra pavojingas – net dirbtinis intelektas „ChatGPT“ kartais sako: „patikrinkite informaciją, aš irgi klystu“.

Grėsmės vystosi koja kojon su naujomis technologijomis

Naujos technologijos atneša besikeičiančias tendencijas ir trolių strategijose bei botų veiksmuose. J.Drazdas sako, kad jų atakas darosi vis sunkiau atpažinti be papildomų įrankių.

„Pastaruoju metu labai daug dėmesio skiriu „TikTok“ platformai. Dabar atpažinti netikrą ar visuomenei paveikti skirtą turinį darosi vis sunkiau – jis dažniausiai būna labai keistas. Pavyzdžiui, koks nors nacionalistinis paveikslėlis, o fone groja rusiška muzika. Kaip tai dera? Visiškai niekaip. Ką tuo norima pasakyti? Sunku paaiškinti“, – pasakoja J.Drazdas.

Jis sako, kad didelį vaidmenį vaidina ir milžiniška informacijos sklaida bei pažangios technologijos. Pavyzdžiui, dirbtinis intelektas, kurio generuoti vaizdai, garso takeliai ar žinutės gali būti dar labiau personalizuotos ir sunkiai atskiriamos nuo žmogaus sukurtų. „Greitas technologijų vystymasis palengvina ir dezinformacijos sklaidą“, – sako J.Drazdas.

Romanas Zontovičius ir Jokūbas Drazdas / Tinklalaidė „Ateities architektai“

R.Zontovičius taip pat sako pastebintis pokyčių šioje srityje, pavyzdžiui, įtartinus darbo skelbimus „Linkedin“ platformoje: „Ėmė plisti darbo pasiūlymai su išgalvotomis nesąmoningomis pozicijomis, siūlantys didelį atlygį, ir netgi prisistatantys tikrais Lietuvos įmonių adresais. Bet šiek tiek pasidomėjus paaiškėja, kad tai apgavystė. „Aš esu tokių gavęs jau kelis“, – perspėja. R. Zontovičius.

Ar mechanizmas gali įtikinti jus, kad yra tikras žmogus?

Dr. Š. Grigaliūnas sako, kad „milijardai slaptažodžių ir prieigų yra jau nutekinti ir užvaldyti“. Jis įspėja, kad jei gavote žinutę iš artimo bičiulio, tai dar nereiškia, kad su juo ir bendraujate. Dr. Š. Grigaliūnas duoda pavyzdį, kaip gali veikti automatizuotas botas, jeigu jūsų paskyra jau yra užvaldyta: „Tarkime, jūs neseniai buvote kavinėje ar vakarėlyje, kur pasidarėte asmenukę ir ją „palaikino“ jūsų artimas ratas žmonių. Botas surinko šitą informaciją ir kažkam iš šito rato parašys žinutę (mašininis mokymas jau šiandien puikiai rašo bet kuria kalba): „Klausyk, ar prisimeni, kaip mes buvome kavinėje arba vakarėlyje ir ten šokome kartu su tuo ir tuo.“ Kas tada atsitiks jūsų galvoje?“, – hipotetiškai klausia dr. Š.Grigaliūnas.

Jis atkreipia dėmesį, kad jūsų kritinį mąstymą tokiu atveju greičiausiai nugalės boto paminėti faktai, kuriuos atsimenate – juk tikrai buvote vakarėlyje su ta kompanija. Jeigu jis juos žino, vadinasi, tikrai yra jūsų bičiulis. Tačiau nebūtinai. „Toliau, jis gali jūsų paprašyti, ko tik nori, nes jūs jau įtikėjote, kad jis tikras. Nors iš tikrųjų yra botas, trolis, mechanizmas, algoritmas arba strategija, kaip iš jūsų gauti vieną ar kitą naudą“, – sako dr. Š. Grigaliūnas.

J. Drazdas taip pat pritaria ir sako, kad tokių rizikų neišvengsime, o dezinformacijos įrankiai tik tobulės. Taigi vienas iš kelių yra mokytis juos identifikuoti.

Mokslininkai kuria įrankius kibernetinėms grėsmėms atpažinti

Kaip sako R. Zontovičius: „Dirbtinis intelektas yra tiesiog įrankis. Kaip ir bet kuris kitas įrankis, tarkime, skalpelis. Su juo galima išgelbėti žmogaus gyvybę, arba galima jam labai pakenkti“, – analogiją tarp tobulėjančių technologijų ir dezinformacijos grėsmių mato R. Zontovičius.

Tam, kad atpažintume tokias grėsmes, galime pasitelkti kritinį mąstymą ir kitus įgūdžius, tačiau technologijoms tobulėjant, vien to gali nepakakti. Todėl Lietuvos mokslininkai ir verslininkai įvairiuose projektuose jau dabar kuria įrankius, kurie galėtų ne tik padėti jas atpažinti, bet ir sustabdyti įvairias kibernetines atakas.

Vienas iš tokių projektų – „Saugios ir įtraukios e. visuomenės“ misija, kuriai skirta daugiau nei 27 mln. eurų. Šiame projekte kuriami sprendimai, padedantys kovoti su užsienio šalių įtaka ir informacijos manipuliavimu internete rinkimų metu, taip pat bus kuriamos priemonės, galinčios identifikuoti bei iš anksto įspėti apie socialinių tinklų erdvėje veikiančius botus ir trolių fermas, stiprinant atsparumą kibernetinėms grėsmėms. Projekto rėmuose bus atliekami tyrimai, leidžiantys atpažinti vaizdo įrašų klastotes ir kitas manipuliacijas, o mokslininkai galės tęsti svarbius tyrimus Kibernetinio saugumo kompetencijų centre.

Visą Inovacijų agentūros tinklalaidę „Ateities architektai“ žiūrėkite Inovacijų agentūros „YouTube“ paskyroje. Ją taip pat galite rasti ir „Spotify“.

Taip pat kviečiame pasitikrinti jėgas teste, kuris patikrins, ar atidžiai skaitėte tekstą.