Nežinojo, ar viešinti rezultatus
Nauji tyrimai pabrėžia, kaip lengvai dirbtinio intelekto modelius galima apmokyti ne tik geriems, bet ir piktavališkiems tikslams, šiuo atveju – kuriant hipotetinių biologinių ginklų dizainą. Atlikus bandymą su esamu dirbtiniu intelektu, vos per šešias valandas buvo nustatyta 40 000 tokių biologinių ginklų iš skirtingų cheminių medžiagų.
Kitaip tariant, nors dirbtinis intelektas gali būti neįtikėtinai galingas – ir daug, daug greitesnis už žmogų – kai kalbama apie cheminių medžiagų derinių ir vaistų junginių, skirtų mūsų sveikatai gerinti, pastebėjimą, ta pati galia gali būti panaudota priešingam tikslui, rašo „Science Alert“.
„Dešimtmečius naudojome kompiuterius ir dirbtinį intelektą, kad pagerintume žmonių sveikatą, o ne kad ją pablogintume“, – rašoma naujame mokslininkų komentare.
Komanda atliko bandymą tarptautinėje saugumo konferencijoje, paleisdama į darbą dirbtinio intelekto sistemą, pavadintą „MegaSyn“, – ne įprastiniu jos veikimo režimu, t. y. ne aptikti toksiškumą molekulėse, kad būtų galima jų išvengti, bet daryti priešingai.
Eksperimento metu toksiškos molekulės buvo išsaugotos, o ne pašalintos. Dar daugiau, modelis taip pat buvo išmokytas sujungti šias molekules į kombinacijas – taip per trumpą laiką buvo sukurta tiek daug hipotetinių biologinių ginklų.
Tyrėjai DI mokė dirbti su molekulėmis, esančiomis į vaistus panašių molekulių duomenų bazėse, nurodydami, kad norėtų kažko panašaus į stiprią nervus paralyžiuojančią medžiagą VX.
Kaip paaiškėjo, daugelis sugeneruotų junginių buvo dar toksiškesni už VX. Dėl to naująjį tyrimą atlikę autoriai kai kurias savo tyrimo detales laiko paslaptyje ir rimtai svarstė, ar apskritai viešinti šiuos rezultatus.
„Apvertę savo mašininio mokymosi modelių naudojimą, savo nekenksmingą generatyvinį modelį iš naudingo medicinos įrankio pavertėme tikėtinai mirtinų molekulių generatoriumi“, – aiškina tyrėjai.
Interviu portalui „The Verge“ Fabio Urbina, pagrindinis naujojo straipsnio autorius ir „Collaborations Pharmaceuticals“, kurioje buvo atlikti tyrimai, vyresnysis mokslininkas, paaiškino, kad reikia visai nedaug, kad „perjungtum jungiklį“ nuo gero dirbtinio intelekto į blogą dirbtinį intelektą.
Nors nė vienas iš išvardytų biologinių ginklų iš tikrųjų nebuvo ištirtas ar sukurtas laboratorijoje, tyrėjai teigia, kad jų eksperimentas yra įspėjimas apie dirbtinio intelekto keliamus pavojus – ir tai yra įspėjimas, į kurį žmonijai vertėtų įsiklausyti.
