Atvirą laišką iki šiol pasirašė daugiau nei 1000 žinomų technologjų sektoriaus lyderių, įskaitant E.Muską ir vieną iš „Apple“ įkūrėjų Steve'ą Wozniaką. Parašyti tokį laišką paskatino „Microsoft“ remiamos įmonės „OpenAI“ išleista dirbtinio intelekto programa GPT-4.
Įmonė teigia, kad naujausias jos modelis yra daug galingesnis už ankstesnę versiją, kuri buvo naudojama „ChatGPT“ – pokalbių robotui, galinčiam generuoti teksto fragmentus iš trumpiausių užklausų.
„Su žmogumi konkuruojančios dirbtinio intelekto sistemos gali kelti didelį pavojų visuomenei ir žmonijai“, – sakoma atvirame laiške, pavadintame „Sustabdykite milžiniškus dirbtinio intelekto eksperimentus“.
„Galingos dirbtinio intelekto sistemos turėtų būti kuriamos tik tada, kai būsime tikri, kad jų poveikis bus teigiamas, o rizika – valdoma“, – rašoma jame.
„Twitter“ vadovas E.Muskas buvo pradinis „OpenAI“ investuotojas, ne vienerius metus dirbo kompanijos valdyboje, o jo automobilių įmonė „Tesla“ kuria dirbtinio intelekto sistemas skirtas autonominiam vairavimui.
Laišką, kurį surengė E.Musko finansuojamas Ateities gyvenimo institutas, pasirašė žinomi kritikai ir „OpenAI“ konkurentai, pavyzdžiui, „Stability AI“ vadovas Emadas Mostaque'as.
Kanados dirbtinio intelekto pradininkas Yoshua Bengio, taip pat pasirašęs šį laišką, virtualioje spaudos konferencijoje Monrealyje perspėjo, kad „visuomenė nėra pasirengusi“ šiam galingam įrankiui ir galimiems piktnaudžiavimams juo.
„Sulėtinkime tempą. Pasirūpinkime, kad sukurtume geresnius apsauginius barjerus“, – sakė jis, ragindamas surengti išsamią tarptautinę diskusiją apie dirbtinį intelektą ir jo pasekmes, „kaip tai padarėme branduolinės energijos ir branduolinių ginklų srityje“.
Laiške cituojamas „OpenAI“ įkūrėjo Semo Altmano tinklaraštis, kuriame siūloma, kad „tam tikru momentu gali būti svarbu gauti nepriklausomą peržiūrą prieš pradedant mokyti būsimas sistemas“.
„Mes sutinkame. Tas momentas yra dabar“, – rašė atviro laiško autoriai, – „Todėl raginame visas dirbtinio intelekto laboratorijas nedelsiant bent 6 mėnesiams sustabdyti galingesnių nei GPT-4 dirbtinio intelekto sistemų mokymą.“
Jie paragino vyriausybes įsikišti ir įvesti moratoriumą, jei įmonės nesutiktų.
Šie šeši mėnesiai turėtų būti panaudoti saugos protokolams, DI valdymo sistemoms kurti ir moksliniams tyrimams perorientuoti, kad DI sistemos būtų tikslesnės, saugesnės, „patikimesnės ir lojalesnės“.
Laiške nebuvo išsamiai aprašyti pavojai, kuriuos atskleidė GPT-4.
