Po gegužę praūžusio „Eurovizijos“ dainų konkurso, internetas buvo pilnas nuotraukų, kuriose buvo užfiksuotos finalinio koncerto akimirkos. Kai kurios iš šių nuotraukų galėjo nemenkai nustebinti, nes atrodė, jog dainų konkurse žiūrovus dainomis džiugino JAV prezidentas Joe Bidenas, Velso princas Williamas su žmona Kate, Anglijos karalius Karolis III su žmona Camilla.
Žinoma, tai – DI įrankių sugeneruoti ir tikrovės neatitinkantys vaizdai, kuriuos kažkas paviešino internete. Pasakyti tiksliai kiek žmonių patikėjo šiuo išmaniu vaizdo klastojimu (angl. deep-fakes) ir kokią įtaką tokių vaizdų paviešinimas galėjo turėti pačioms garsenybėms – nuspėti praktiškai neįmanoma.
Visuomenės pareiga – abejoti viskuo ką mato ir skaito
Kaip teigia advokatų kontoros „TGS Baltic“ partneris, Technologijų industrijos grupės vadovas Mindaugas Civilka, asmens atvaizdas, kaip ir bet kuri kita privati informacija, yra griežtai saugoma įstatymais – net ir viešųjų asmenų, kurių privatumo teritorija yra kiek siauresnė.
„DI įrankiai gali labai įtikinančiai ir tikroviškai pateikti netikrą informaciją, o tai reiškia, kad visuomenėje kinta tikrovės ir melo santykis. Mes įgyjame naują pareigą – abejoti bet kuria matoma ir girdima audiovizualine ar skaitoma informacija, nes darosi tikėtina, kad ji neturi nieko bendro su tikrove, o jos šaltinis – DI metodai, pateikimo metodas – deep-fake“, – teigia M.Civilka.
Tiesa, advokatas prideda, kad galima nemažai diskutuoti apie tai, kas yra tikrovė ir, ar DI ateityje nepraplės mūsų tikrovės ribų bei ilgainiui netaps įprastos realybės dalimi. Nepaisant to, M. Civilka teigia, kad šiandien turime būti budrūs ir informaciją internete vertinti kritiškai.
„Asmens atvaizdas DI metodų pagalba gali būti apdorotas ir panaudotas ne tik siekiant parodyti, kaip atrodytumėte ant „Eurovizijos“ scenos, bet sukčiai juo gali pasinaudoti ir labiau neigiamame kontekste, pavyzdžiui, apsimetant jumis, jūsų vardu sudarant sandorius, prisijungiant prie jūsų sąskaitos ir kt.“, – sako M.Civilka.
Trūksta aiškumo
Taigi, atsakymas į klausimą, kas turėtų būti atsakingas už DI sugeneruotų vaizdų ir kitų rezultatų sukeltą žalą – tarsi pakibęs ore. Kaip teigia M.Civilka, Lietuva priklauso civilinės atsakomybės reglamentavimo šalims, kuriuose nėra jokių konkrečių nuostatų skirtų DI ir remiamasi tik sąrašu, taikomu nekokybiškiems produktams, produktų saugai (tarp jų ir DI), specialiomis griežtos atsakomybės nuostatomis, kurios taip pat taikomos labai specifiniais atvejais (pavyzdžiui, padidinto pavojaus objekto sukeliama žala) arba bendrosiomis kalte pagrįstomis žalos atlyginimo taisyklėmis.
„Asmuo, kurio veikla yra susijusi su didesniu pavojumi aplinkiniams (pavyzdžiui, transporto priemonių, mechanizmų, statybos ir t.t.), privalo atlyginti tokio šaltinio padarytą žalą net jei nėra jo kaltės, išskyrus atvejus, kai žala kilo dėl force majeure arba paties nukentėjusiojo kaltės. Produktų saugos teisinis režimas, ateinantis iš ES direktyvų, taip pat gali būti taikomas DI kaip gaminiui, produktui, komponentui“, – apibendrina M.Civilka.
Be to, anot jo, visuomet gali būti taikomos ir bendrinės civilinės atsakomybės normos, kurios reiškia, kad už DI metodų sukeltą žalą atsakytų tas asmuo, kuris tuos metodus taikė savo veikloje.
„Visgi, tokiu atveju kyla labai daug iššūkių. Pirmiausia tektų įrodyti pažeidėjo kaltę, pavyzdžiui, kad DI buvo naudojamas sąmoningai žinant, koks bus poveikis, padariniai arba bent jau numanoma, kokios pasekmės bus sukeltos, taip pat reikėtų įrodyti ir neteisėtus veiksmus, kad DI buvo naudotas ne pagal gamintojo instrukcijas, tiekėjo reikalavimus ar taisykles. Galiausiai, reikėtų įrodyti ir tai, kad asmuo nukentėjo ir žalą patyrė būtent dėl tokio DI panaudojimo. Visa tai rodo, kad neturtinės žalos dydžio įrodinėjimas Lietuvoje nėra lengvas dalykas“, – sako M.Civilka ir prideda, kad kai kuriais atvejais gali kilti sunkumų net ir identifikuojant pažeidėją bei nustatant jo tapatybę.
Kyla papildomų klausimų
Taigi, bet kuris asmuo, kurio atvaizdas pasitelkiant DI buvo sugeneruotas neigiamame kontekste, gali kreiptis į teismą dėl žalos atlyginimo, tačiau svarbu atminti, kad tokiu atveju turės būti nustatoma pažeidėjo tapatybė, taip pat, kad jis deep-fake sukūrė neturėdamas asmens leidimo ir, kad būtent jis tokį vaizdą paviešino ir kitaip naudojo neigiamame kontekste, dėl ko tas asmuo patyrė neturtinę žalą.
„DI niekuo nesiskiria nuo bet kurio kito pažeidimo įrankio ar priemonės. Kur kas piktesni ir sudėtingesni atvejai yra susiję su tuo, kad naudotojas neturi tiesioginio noro sukelti žalą, tačiau ji kyla dėl paties DI veikimo subtilumų, klaidų, kurios nebuvo iš anksto numatytos ir kurioms sunku užkirsti kelią dėl paties DI metodo ypatumų.
Pavyzdžiui, reitingavimo/indeksavimo DI sistema pateikė klaidingą, neobjektyvų arba pernelyg prastą reitingą, dėl ko žmogus gavo blogesnes paskolos, draudimo ar lizingo sąlygas. Tokiais atvejais kyla kompleksinis klausimas – kiek atsakingas DI kūrėjas, o kiek jo naudotojas, pavyzdžiui, bankas?“, – klausia M.Civilka.
Advokatas prideda, kad dabartinės ES valstybių taisyklės dėl atsakomybės yra ypač pagrįstos kalte ir nėra tinkamos nagrinėti tokius ieškinius. Taip yra todėl, kad nukentėjusiesiems gali tekti įrodyti neteisėtus konkretaus žalą padariusio asmens veiksmus ar neveikimą, tačiau dėl DI pobūdžio, įskaitant sistemų sudėtingumą, savarankiškumą ir neskaidrumą, nukentėjusiajam gali būti sunku arba neįmanoma to padaryti.
„Be ES valstybių narių suderinto požiūrio į atsakomybę už DI sistemų padarytą žalą, egzistuoja DI sistemų naudotojų teisinio tikrumo stoka. ES skaičiavimu, vien dėl DI sistemų atsakomybės taisyklių suderinimo ES bus sugeneruota apie 1 mlrd. EUR“, – teigia M.Civilka.
ES DI atsakomybės reguliavimas
Siekdama palengvinti DI atsakomybės klausimų sprendimą praktikoje, 2022 m. Europos komisija (EK) parengė pasiūlymą dėl nesutartinės civilinės atsakomybės taisyklių taikymo DI. M.Civilka nurodo, kad atsakomybė būtų taikoma DI produktų gamintojams, platintojams ir importuotojams, kurie DI sistemą pateikė ES rinkai, arba jos naudotojams.
Pirminis Europos Parlamento (EP) pasiūlymas buvo taikyti du savarankiškus režimus:
- kalte grindžiamas režimas – paprastiems DI; šiuo atveju, nukentėjusysis asmuo turėtų įrodyti visas atsakomybės sąlygas kaip ir visais įprastai atvejais;
- griežtosios atsakomybės režimas – aukštos rizikos DI (pavyzdžiui, biometrinės priemonės, elgesio stebėsena, mokymams, švietimui, viešųjų paslaugų teikimui, migracijoje, teisėsaugoje naudojami DI metodai, taip pat DI sistemos, kurių panaudojimas gali sukelti rimtų padarinių visuomenei, aplinkai, žmogui), kuomet atsakomybė taikoma be pažeidėjo kaltės (panašiai, kaip padidinto pavojaus šaltinio valdytojo);
Advokatas išskiria, kad visgi EK pateiktas DI atsakomybės direktyvos pasiūlymas iš esmės skirtas visoms DI sistemoms, ne tik aukštos rizikos. Pastarosioms taikomos kai kurios papildomos taisyklės ir sąlygos.
„Teismai laikys, kad yra ryšys tarp atsakovo neteisėtų veiksmų ir DI darbo rezultato, jei nukentėjęs asmuo įrodys, kad (i) DI naudotojas nebuvo pakankamai rūpestingas ir atsargus, (ii) jo veiksmai turėjo įtakos DI sistemos sugeneruotam rezultatui ir (iii) tikėtina, kad tai sukėlė jam žalą“ – vardija M.Civilka.
Praktikoje ši nauja taisyklė reiškia, kad jei nukentėjusysis galės įrodyti, kad DI naudotojas ar tiekėjas nesilaikė tam tikros pareigos, pavyzdžiui, neatskleidė DI naudojimo rizikų, netinkamai aprašė DI naudojimo padarinius, susijusios su jų žala ir yra tikėtina, kad toks DI veikimas sukėlė žalą – teismas galės daryti prielaidą, kad toks neatitikimas tikrai lėmė žalą.
„Direktyvos taisyklės nėra ženklus palengvinimas nukentėjusiam asmeniui – esminis palengvinimas tas, kad nukentėjusiam asmeniui nebereikės įrodinėti priežastinio ryšio“, – teigia M.Civilka.
Tiesa, teismas tokią prezumpciją taikys priklausomai nuo DI rizikos:
- kalbant apie įprastos rizikos DI, prezumpcija taikoma tik teismui nusprendus, kad ieškovui bus sunku įrodyti priežastinį ryšį;
- kalbant apie didelės rizikos DI, teismas visgi gali nuspręsti, kad ieškovas turi pakankamų galimybių, žinių, know-how ir pan. pats įrodyti priežastinį ryšį.
„Be to, aukštos rizikos DI atveju teismai turės teisę reikalauti iš (i) didelės rizikos DI gamintojų, platintojų, importuotojų, kurie DI sistemą pateikė ES rinkai, arba (ii) didelės rizikos DI sistemos naudotojo, atskleisti DI metodus ir algoritmus apie tą konkrečią DI sistemą, kuri, kaip įtariama, padarė žalos“, – prideda „TGS Baltic“ teisininkas.
Taigi, asmuo, kurio atvaizdas pasitelkiant DI buvo sugeneruotas netinkamai dėl DI klaidos, pavyzdžiui, asmuo suteikė leidimą tam tikslui naudoti savo atvaizdą, bet DI jį iškraipė, galės kreiptis į teismą dėl žalos atlyginimo, ir jam reikės įrodyti, kad DI naudotojas aplaidžiai naudojo DI filtrą socialinės medijos posto sukūrimui, ir taip jis patyrė neturtinę žalą.
