Normanas „yra analizė pavojingų atvejų, kada dirbtinis intelektas suveikia blogai dėl iškraipytų duomenų, kurie buvo panaudoti kompiuterių mokymo algoritmuose“, sako prestižinio Masačusetso technologijų instituto (MIT) atstovai.
Pagrindinė mintis sistemos mokymesi yra, kad „duomenys, kuriuos naudojate kompiuterių mokyme, gali turėti labai didelę reikšmę jų elgesiui“, tvirtina MIT komandos darbuotojai Pinar Yanardag, Manuelis Cebrianas ir Iyadas Rahwanas.
„Todėl, kai kalbame apie dirbtinio intelekto iškraipytus algoritmus, kaltas dažnai yra ne pats algoritmas, bet iškraipyti duomenys, kurie buvo panaudoti“, – sakoma mokslininkų pareiškime.
Normano atsiradimą įkvėpė Alfredo Hitchcocko 1960 metų filmas „Psichopatas“ (Psycho), pasakojantis apie žudiką psichopatą Normaną Beitsą.
Normanas buvo „maitinamas“ tik trumpomis legendomis apie „mirštančius žmones“ iš interneto platformos „Reddit“.
Vėliau mokslininkai Normanui pateikė paveikslėlius su rašalo dėmėmis, panašius į tuos, kurie naudojami Rorschacho psichologiniame teste, norėdami nustatyti, ką mato Normanas, ir palyginti rezultatus su tradiciškai apmokytų dirbtinių intelektų rezultatais.
Rezultatai buvo gąsdinantys. Ten, kur kiti matė „du vienas šalia kito stovinčius žmones“, Normanas įžvelgė „pro langą iššokantį žmogų“.
Kitame paveikslėlyje Normanas pamatė „rėkiančios žmonos nušautą vyrą“, nors kiti dirbtiniai intelektai jame matė „žmogų su skėčiu“.
Specialiai sukurtoje interneto svetainėje norman-ai.mit.edu galima išvysti 10 Normanui pateiktų paveikslėlių su makabrišku psichopatinio dirbtinio intelekto pateiktu jų apibrėžimu.
Interneto svetainės lankytojai taip pat turi progą patys išbandyti Normaną, pateikdami jam rašalų dėmių paveikslėlių, ir siųsti savo atsakymus, kad „padėtų Normanui pasitaisyti“.
