Knygoje autorius aprašo dirbtinio intelekto saugumo situaciją ir aptaria klausimus, į kuriuos mūsų visuomenė turės atsakyti, jeigu norėsime, kad technologijos būtų naudojamos geriems tikslams. Kokia ateitis mūsų laukia? Antžmogiškas intelektas taps mūsų vergu ar valdovu? Kaip galime padidinti savo gerovę, pasitelkdami dirbtinį intelektą ir kartu neatimdami iš žmonių pajamų bei gyvenimo prasmės?
M.Tegmarkas netiki, kad pražūtingas „Terminatoriaus“ scenarijus neišvengiamas, tačiau jis taip pat mano, kad šiandien dirbtinio intelekto saugumui skiriama nepakankamai dėmesio. Ir jis – ne vienintelis taip manantis. Stephenas Hawkingas daugelį metų ragino mokslininkus skirti daugiau dėmesio dirbtinio intelekto saugumui. „Microsoft“ drauge su Elonu Musku įkūrė tai pačiai problemai spręsti skirtą organizaciją „OpenAI“. E.Muskas, kuris 2015 m. Gyvybės ateities institutui padovanojo 10 milijonų dolerių, socialinio tinklo „Twitter“ paskyroje išgyrė ir knygą „Gyvybė 3.0“.
„The Verge“ žurnalistė Angela Chen su knygos „Gyvybė 3.0“ autoriumi kalbėjosi apie tai, kodėl dirbtinis intelektas yra svarbiausia mūsų laikų tema.
– Ką reiškia jūsų knygos pavadinimas? Kas yra „Gyvybė 3.0“ ir kas buvo Gyvybė 1.0 ir 2.0?
Mes, žmonės, esame tai, ką vadinu „gyvybe 2.0“. Mes tebeturime savo techninę įrangą, arba kūnus, kuriuos iš esmės suprojektavo evoliucija, tačiau jau galime mokytis.
– Apie gyvybę mąstau plačiai – kaip apie procesą, kuris gali atkurti visą savo sudėtingumą ir reprodukuotis. Gyvybė 1.0 būtų kažkas panašaus į bakteriją. Bakterijos yra maži atomai, sujungti į paprastus algoritmus, kurie kontroliuoja viską, ką bakterijos daro. Tarkim, jei bakterija pastebi, kad priekyje cukraus koncentracija yra didesnė nei už jos, ji pajuda į priekį, o jei pastebi, kad priekyje cukraus mažiau, tai apsisuka. Tačiau per savo gyvenimą bakterija iš tikrųjų nieko taip ir neišmoksta. Vienintelis būdas, kuriuo bakterija gali ilgainiui pasigerinti savo programinę įrangą arba šio to išmokti, yra daugelio kartų evoliucija.
Mes, žmonės, esame tai, ką vadinu „gyvybe 2.0“. Mes tebeturime savo techninę įrangą arba kūnus, kuriuos iš esmės suprojektavo evoliucija, tačiau jau galime mokytis. Turime didžiulę galią įdiegti į savo protus naują „programinę įrangą“. Tarkim, jeigu nusprendžiate, kad norite tapti advokatu, galite stoti į teisės mokyklą. Teisės mokykla į jūsų smegenis įdiegs naujus algoritmus ir jūs įgysite advokato kompetenciją. Šis gebėjimas kurti nuosavą programinę įrangą, užuot laukus, kol ją mums suteiks evoliucija, leido žmonėms dominuoti planetoje ir sukurti šiuolaikinę civilizaciją bei kultūrą. Kultūrinė evoliucija gimsta būtent iš to, kad per gyvenimą galime kopijuoti kitų žmonių idėjas ir žinias.
Gyvybė 3.0 yra tai, kas galutinai išsivaduoja iš evoliucijos pančių ir gali sau suprojektuoti ne tik programinę, bet ir techninę įrangą. Kitaip tariant, jei sukursime dirbtinį intelektą, kuris bus bent jau toks pat protingas kaip mes, jis galės ne tik susiprojektuoti programinę įrangą, kad galėtų mokytis naujų dalykų, bet ir pamėginti pasididinti atmintį, kad įsimintų milijoną kartų daugiau informacijos arba įgyti daugiau galios apdoroti turimą informaciją. Tuo tarpu mes, žmonės, galime įsidėti dirbtinius širdies stimuliatorius ar dirbtinius kelius, bet iš esmės negalime nieko radikaliai pakeisti. Jums niekada nepavyks tapti šimtą kartų aukštesniam ar tūkstantį kartų greičiau mąstyti. Mūsų intelektas pagamintas iš minkštų biologinių neuronų ir iš principo yra apribotas to, kiek smegenų masės gali pralįsti pro gimdos kanalą. Dirbtiniam intelektui tai negalioja.
– Kai kurie žmonės vis dar skeptiškai vertina tai, ar superintelektas apskritai įmanomas. Tačiau jūs tvirtai tikite, kad jis bus sukurtas ir kad tai tėra laiko klausimas. Koks jūsų, kaip fiziko, požiūris į šį procesą?
– Manau, daugelis žmonių intelektą laiko kažkuo paslaptingu ir būdingu tik biologiniams organizmams. Tačiau iš mano, kaip fiziko, perspektyvos, intelektas tėra informacijos apdorojimas, kurį atlieka elementariosios dalelės, judančios pagal fizikos dėsnius. Jeigu pažvelgsime į fizikos dėsnius, ten nėra nieko, kas sakytų, jog negalime sukurti gerokai už mus protingesnių mašinų ar kad intelektas turi būti kuriamas iš organinės medžiagos. Nemanau, kad esama kokio nors slapto padažo, kuriam būtini anglies atomai ar kraujas.
Esame daug nuveikę branduolinio karo rizikos mažinimo labui, tačiau saugios ateities su dirbtiniu intelektu klausimas – neabejotinai svarbesnis nei visi kiti.
Rašant knygą man buvo labai smagu galvoti apie tai, kokios yra galutinės fizikos dėsnių ribos ir koks protingas galėtum tapti. Trumpas atsakymas būtų toks, kad tos ribos tolimos kaip dangus, milijonus kartų tolimesnės už tašką, kuriame esame dabar. Kol kas mes nežinome nieko. Mūsų visata turi didžiulį potencialą nuveikti daug daugiau. Tai įkvepianti mintis, kylanti iš kosmologijos studijų.
– Žinau, kad Gyvybės ateities institutas dirba ir su tokiomis problemomis, kaip branduolinis nusiginklavimas, tačiau žmonių informavimas apie dirbtinio intelekto saugumą – pagrindinis jo tikslas. Jūs irgi manote, kad dirbtinio intelekto saugumas – „svarbiausia mūsų laikų tema“. Kodėl? Kodėl tai svarbiau nei, tarkim, klimato kaita?
– Esame daug nuveikę branduolinio karo rizikos mažinimo labui, tačiau saugios ateities su dirbtiniu intelektu klausimas – neabejotinai svarbesnis nei visi kiti. Imkime kad ir klimato kaitą: taip, per 50 ar 100 metų tai mums gali sukelti rimtų rūpesčių, tačiau daugelis pagrindinių dirbtinio intelekto tyrėjų mano, kad viršžmogiškasis intelektas bus sukurtas anksčiau – per porą artimiausių dešimtmečių.
Ir tai, be abejo, kur kas didesnė problema už klimato kaitą. Visų pirma, jei tai įvyks, mūsų gyvenimas absoliučiai pasikeis. Arba tai padės mums suklestėti taip, kaip niekada anksčiau, arba taps baisiausiu mus ištikusiu košmaru. O antra, jei viskas klostysis sėkmingai, galėsime jį pasitelkti spręsdami klimato kaitą ir visas kitas problemas. Skurdas, socialinis teisingumas, klimato kaita, ligos – visos tos problemos mus puola, nes esame nepakankamai protingi, kad sugebėtume jas išspręsti, bet jeigu mums pavyktų pastiprinti savo intelektą dirbtiniu, toli lenkiančiu mūsiškį, turėtume neįtikėtiną potencialą.
Kitaip tariant, dirbtinis intelektas skiriasi nuo visų kitų sąraše esančių dalykų, nes jis turi ne tik potencialių trūkumų, bet ir milžiniškų potencialių privalumų – juk jis gali padėti išspręsti visas kitas problemas. Tarkim, vėžys ar kitos ligos gali būti išgydytos, tik mes, žmonės, nesame pakankamai protingi, kad išsiaiškintume, ką su jomis daryti. Mus riboja intelektas.
– Esama labai įvairių nuomonių šia tema, nuo skepticizmo iki utopijų.
– Optimistiškai tikiu, kad sukurti viršžmogišką intelektą įmanoma. Taip pat optimistiškai manau, kad dirbtinis intelektas mums žada puikią ateitį. Tačiau esu atsargus – nemanau, kad tai garantuota. Jei norime, kad viskas klostytųsi sėkmingai, iš pradžių turime atsakyti į esminius klausimus. O į juos atsakyti gali prireikti 30 metų. Pradėti ieškoti atsakymų privalome jau dabar, o ne paskutinį vakarą prieš tai, kai kokie nors veikėjai sugalvos paleisti savo sukurtą superintelektą.
- Kokius klausimus? Minėjote, kad jums nerūpi „artimiausi“ klausimai – tarkim, kaip automatizavimas paveiks darbo vietas.
– Dabar ištisai kalbama apie darbo automatizavimą, bet žmonės linkę pamiršti, kad ne mažiau svarbu žvelgti į ateitį. Turiu omeny, pavyzdžiui, tokius klausimus, kaip transformuoti šiuolaikinius kompiuterius, į kuriuos lengva įsilaužti? Kaip vis protingėjančioms dirbtinio intelekto sistemoms padėti suprasti mūsų tikslus?
Kai nulūžta jūsų kompiuteris – susierzinate, nes praradote valandos darbą, tačiau būtų dar liūdniau, jei tas kompiuteris valdytų lėktuvą, kuriuo skrendate, arba JAV branduolinį arsenalą.
Tačiau pamąstykime: negi verta finansuoti branduolinių reaktorių kūrimą, nefinansuojant branduolinių reaktorių saugos?
Kokie turėtų būti dirbtinio intelekto tikslai? Ar tai turėtų būti kelių amerikiečių programuotojų tikslai, ISIS tikslai, o gal viduramžių žmonių tikslai? Kokią visuomenę galime sukurti? Tik pažvelkite, kokia nuomonių poliarizacija šiuo metu egzistuoja JAV.
Jeigu nežinome, ko norime, greičiausiai to ir negausime. Be to, šio reikalo negalima patikėti ir tokiems technokratams kaip aš, nes klausimas apie tai, kokią visuomenę kuriame, turės įtakos mums visiems.
– Daugelis jūsų aptariamų iniciatyvų yra pasaulinio masto – tarkim, kaip atnaujinti įstatymus, kad jie neatsiliktų nuo dirbtinio intelekto. Tačiau kaipgi eilinis žmogus? Ką daryti mums?
– Pirmiausia pradėkime nuo kalbėjimosi. Tai, kad nė vienas iš dviejų kandidatų į JAV prezidento postą per pastaruosius rinkimus apskritai neužsiminė apie dirbtinį intelektą, atspindi faktą, kad žmonės apie jį tiesiog nekalba, negalvoja ir balsuodami.
– Koks pokalbis šia tema turėtų įvykti, kad manytumėte, jog pasisekė jį užvesti?
– Pažvelkime į tai šitaip: šiuo metu į dirbtinio intelekto kūrimą investuojama milijardai dolerių, o į jo saugumo tyrimus – beveik nieko. Nė viena pasaulio vyriausybė nepareiškė, kad dirbtinio intelekto saugumo tyrimai turėtų būti neatsiejama kompiuterinių mokslų finansavimo dalis. Tačiau pamąstykime: negi verta finansuoti branduolinių reaktorių kūrimą, nefinansuojant branduolinių reaktorių saugos? Visi mano pažįstami dirbtinio intelekto tyrėjai mano, kad reikėtų labiau finansuoti dirbtinio intelekto saugumą. Taigi sakyčiau, kad mums bus pavykę tada, kai tokie dalykai pamažu pajudės teisinga kryptimi.
Vertė Emilija Ferdmanaitė.
