Tai rodo tyrimai, paskelbti „Journal of Artificial Intelligence Research“. Maxo Plancko mokslininkų teigimu, problema yra ta, kad jokiu būdu negalima sukurti tokio algoritmo be technologijos, kuri būtų kur kas pažangesnė už tą, kurią galime sukurti šiandien.
Komanda daugiausia dėmesio skyrė santūrumo klausimui. Jei visagalis algoritmas kažkaip nuspręstų, kad jis turėtų pakenkti žmonėms arba apskritai sunaikinti žmoniją, kaip mes jį sustabdytume?
Jie siūlo sukurti tam tikrą „sulaikymo algoritmą“, kuris imituoja pavojingo algoritmo elgesį ir neleidžia jam daryti nieko kenksmingo, tačiau kadangi sulaikymo algoritmas turėtų būti toks pat galingas, kaip ir pavojingasis, mokslininkai paskelbė, kad problemos išspręsti neįmanoma.
Visa tai yra teorinė diskusija. Pakankamai pažengęs intelektas, kuris keltų grėsmę žmonijai, tikriausiai dar toli, tačiau tai yra puiki tema iš anksto diskutuoti – mes norėtume sužinoti apie pavojų dar prieš jam įvykstant.
„Itin intelektuali mašina, valdanti pasaulį, skamba kaip mokslinė fantastika“, – pranešime spaudai sakė tyrimo bendraautorius Maxo Plancko žmogaus vystymosi instituto Žmonių ir mašinų centro skaitmeninės mobilizacijos grupės vadovas Manuelis Cebrianas. „Tačiau jau yra mašinų, kurios tam tikras svarbias užduotis atlieka savarankiškai, programuotojams visiškai nesuprantant, kaip jos to išmoko. Todėl kyla klausimas, ar tai tam tikru momentu gali tapti nevaldoma ir pavojinga žmonijai“.
Video apie tai ar galime sukurti pavojų keliantį dirbtinį intelektą:
