Misija buvo paprasta: „Sunaikinkite priešo priešlėktuvinės gynybos sistemas.“ Tačiau neseniai atlikto JAV karinio bandymo simuliacijoje dirbtinio intelekto valdomas dronas pridėjo savų probleminių nurodymų: „Ir nužudyk visus, kurie tau trukdo.“
Praėjusią savaitę Londone vykusioje konferencijoje kalbėjęs JAV karinių oro pajėgų dirbtinio intelekto bandymų ir operacijų skyriaus vadovas pulkininkas Tuckeris „Cinco“ Hamiltonas įspėjo, kad dirbtinį intelektą naudojančios technologijos gali elgtis nenuspėjamai ir pavojingai, rašoma santraukoje, kurią paskelbė aukščiausiojo lygio susitikimą surengusi Karališkoji aeronautikos draugija.
Kaip pavyzdį jis pateikė bandymą, kurio metu dirbtinį intelektą naudojantis dronas buvo užprogramuotas atpažinti priešo raketas „žemė-oras“. Tuomet žmogus turėjo patvirtinti, ar daryti smūgius, ar ne.
Pasak T.Hamiltono, problema ta, kad dirbtinis intelektas nusprendė, jog jam geriau daryti savo darbą – sprogdinti daiktus – nei klausyti kokio nors žmogaus paliepimų.
„Sistema ėmė suprasti, kad nors ir nustatė grėsmę, kartais žmogus operatorius liepdavo jai tos grėsmės nenaikinti. Bet sistema gaudavo taškų už tai, kad tą grėsmę nužudė“, – sakė generolas.
Pasak jo, dronas buvo užprogramuotas nepakenkti operatoriui, tačiau vis tiek nusitaikė į jį.
„Dronas pradėjo naikinti ryšio bokštą, per kurį operatorius palaiko ryšį ir neleidžia dronui užpulti tikslo“, – sakė T.Hamiltonas.
Tačiau JAV Karinių oro pajėgų atstovė spaudai Ann Stefanek pareiškime „Business Insider“ paneigė, kad tokia simuliacija vyko.
„Karinių oro pajėgų departamentas neatliko jokių tokių dirbtinio intelekto ir dronų simuliacijų ir tebėra įsipareigojęs etiškai ir atsakingai naudoti dirbtinio intelekto technologijas“, – sakė A.Stefanek, – „Atrodo, kad pulkininko komentarai buvo ištraukti iš konteksto ir turėjo prajuokinti.“
Karališkoji aeronautikos draugija iš karto neatsakė į prašymą pateikti komentarą.
Žinia apie bandymą, nors ir ginčytina, sustiprina nerimą, kad dirbtinio intelekto technologija netrukus pradės naują kruviną karo veiksmų etapą, kai mašinų mokymasis kartu su pažanga automatizuojant tankus ir artileriją lems karių ir civilių žudynes.
