A.Karlovas gimė Maskvoje, baigė Maskvos tarptautinių santykių institutą. Dar sovietmečiu jis pradėjo savo diplomatinę karjerą Šiaurės Korėjoje. Čia dirbti jis pradėjo 1976 m. ir pakeitė daug pareigų.
2007 m. jis grįžo į Rusiją, kur šešerius metus dirbo Užsienių reikalų ministerijoje. 2013 m. liepą jis buvo paskirtas Rusijos ambasadoriumi Turkijoje.
A.Karlovo nužudymas siejamas su Rusijos dalyvavimu kariniuose veiksmuose Sirijoje. Šiuo metu Sirijos režimo ir Rusijos pajėgos baigia užimti strategiškai svarbų Alepo miestą.
Užpuolimas įvykdytas Ankaros Cankaya rajone esančioje parodų salėje. Tai – prestižinis rajonas, kuriame įsikūrusios daugelių šalių ambasados. Rusijos ambasadoriaus rezidencija taip pat.