G.Kanovičius gimė tradicinėje Lietuvos žydų amatininkų šeimoje Jonavoje 1929 metų birželio18-ą dieną. Kartu su tėvais jis pasitraukė iš karo apimtos Lietuvos, gyveno Kazachstane ir prie Uralo.
1945 m. šeima grįžo į Vilnių, čia 1948-iais G.Kanovičius debiutavo kaip poetas.
1953 m. baigė VU Istorijos–filologijos fakultetą, rusų kalbos ir literatūros specialybę. Nuo 1954 m. buvo Lietuvos rašytojų sąjungos narys. Dirbo Lietuvos Mokslų akademijos lietuvių kalbos ir literatūros institute, Lietuvos kino studijoje.
Buvo Sąjūdžio tarybos narys, 1989 m. Lietuvos Sąjūdis iškėlė rašytoją kandidatu į paskutiniosios TSRS AT deputatus. Būdamas deputatu G.Kanovičius inicijavo 200 kitų deputatų pasirašyti laišką, įteiktą M.Gorbačiovui dėl rasizmo ir antisemitizmo grėsmės Sovietų Sąjungoje, skaitė paskaitų ciklą JAV ir Kanadoje, propaguodamas Lietuvos nepriklausomybės idėją.
1988-1993 m. ėjo Lietuvos žydų bendruomenės pirmininko pareigas. 1993-aisiais rašytojas išvyko iš Lietuvos ir apsigyveno Izraelyje. 1995-1999 m. jis buvo didžiausio JAV rusų kalba laikraščio „Novoje ruskoje slovo“ („Naujas rusų žodis“) korespondentas Izraelyje.
G.Kanovičius buvo labai produktyvus rašytojas, rašė rusų kalba ir visos jo knygos buvo leidžiamos Vilniuje. Kūrėjas yra sakęs: „Mano bendraautorė – Lietuva. Tik Lietuvoje galėjo išeiti šios knygos“.
Jo pirmoji knyga „Доброе утро“ (eilėraščiai) išleista Vilniuje 1955 m., o 1959 m. pasirodžiusi autobiografinė apysaka „Aš žiūriu į žvaigždes“ buvo pirma apysaka Sovietų sąjungoje apie žydų gyvenimą.
964 m. išėjo karikatūrų, epigramų, parodijų rinkinys „Linksma akim“. Vėliau rašytojas pradėjo rašyti romanus ir šiam žanrui liko ištikimas visą gyvenimą. „Ta gyvenimo sankloda, filosofija, santykiai tarp žmonių – visa tai, ką patyriau vaikystėje, tapo mano kūrybos fonu. Visa tai perėjo per mano vaizduotę ir virto visiškai kitokia realybe“ – yra kalbėjęs rašytojas.
Parašė daugiau nei dešimt romanų – savotišką sagą – apie Rytų Europos žydų istorijos vingius nuo XIX amžiaus iki mūsų dienų. Tai – romanų trilogija „Žvakės vėjyje“, dilogija „Kvailių ašaros ir maldos“, romanai „Nusišypsok mums, Viešpatie“, „Ožiukas už du skatikus“, „Ir nebus vergams rojaus“, „Neatsigręžki nuo mirties“, „Žydų parkas“, „Nukirstų medžių šlamėjimas“, „Šėtono apžavai“, „Miestelio romansas“.
Visi mes kilę iš miestelio. Tas pasaulis nuskendo, dabar jis užmirštamas, nepelnytai gramzdinamas į visišką nebūtį
Taip pat rašė apysakas ir apsakymus, nuolat norėdamas prikelti savo vaikystės miestelio gyvenimą, juk jo nuomone „visi mes kilę iš miestelio. Tas pasaulis nuskendo, dabar jis užmirštamas, nepelnytai gramzdinamas į visišką nebūtį“.
G.Kanovičiaus bibliografija įspūdinga: „Птицы над кладбищем“: romanas. – Vilnius, 1974. „Благослави и листья и огонь“: romanas. – Vilnius, 1977. „Paukščiai virš kapinių“: romanas. – Vilnius, 1977. „Свечи на ветру“: romanai. – Vilnius, 1979. „Palaimink ir lapus, ir ugnį“: romano „Paukščiai virš kapinių“ tęsinys. – Vilnius, 1980. „Nuogi Olimpe“: epigramos, parodijos. – Vilnius, 1981. „Lopšinė seniui besmegeniui“: „Paukščiai virš kapinių“ ir „Palaimink ir lapus ir ugnį“ tęsinys. – Vilnius, 1982. „Слёзы и молитвы дураков“: romanas. – Vilnius, 1983. „И нет рабам рая“: romanas. – Vilnius, 1985. „Žvakės vėjyje“: trilogija. – Vilnius, 1986, 1989. “Козлёнок за два гроша“: novelė. – Vilnius, 1989. „Ir nėra vergams rojaus“: romanas. – Vilnius, 1990. „Nenusigręžki nuo mirties“: romanas. – Vilnius, 1992.
Į klausimą, ar išvykęs į Izraelį rašė kitaip, G.Kanovičius yra atsakęs: „Rašyti reikia taip, kaip Dievas kužda. Manau, kad rašytojas laimi tik tuo atveju, jei jis niekam nemėgina įtikti ar pataikauti. Nei žydams, nei Izraeliui, nei Lietuvai. Jei rašytojas jaučia, kad jo širdyje kažkas susigulėjo, sutvirtėjo, tai tik tam ir reikia „pataikauti“ nemąstyti apie tai, ar tavo darbas bus paskelbtas, ar ne“.
Rašyti reikia taip, kaip Dievas kužda. Manau, kad rašytojas laimi tik tuo atveju, jei jis niekam nemėgina įtikti ar pataikauti.
Ir toliau Lietuvoje viena po kitos buvo verčiamos ir leidžiamos jo knygos: „Ožiukas už porą skatikų“; „Nusišypsok mums, Viešpatie“: romanai. – Vilnius, 1996. Šios dilogijos pagrindu sukurtas spektaklis „Nusišypsok mums, Viešpatie“ laimėjo pagrindinį apdovanojimą Baltijos ir Šiaurės Europos teatrų festivalyje, o Lietuvos teatro kritikai jį išrinko geriausiu 1994 m. sezono spektakliu.
Romanas „Žydų parkas“ (Vilnius, 1998) buvo pripažintas geriausiu Izraelyje 1997 metų romanu rusų kalba.
Vėliau G.Kanovičius parašė dar keletą knygą: „Nukirstų medžių šlamėjimas“: apysaka. – Vilnius, 2000. „ Eilėraščiai“. In: rusų meilės lyrika. T. 2. – Kaunas, 2000. „Veidai sutemose“: apysaka ir nepramanyti apsakymai. – Vilnius, 2002. „Našlių kelionės“: apysakos ir nepramanyti apsakymai. – Vilnius, 2004. „Šėtono apžavai“: romanas. – Vilnius, 2008. „Šėtono apžavai“: romanas (Brailio raštu). – Vilnius, 2009. „Debesis, vardu Lietuva“: apsakymai. – Vilnius, 2009. „Miestelio romansas“: romanas. – Vilnius, 2013, 2014. „Rinktiniai raštai“: 5 tomai (sudarytoja O. Kanovičienė). – Vilnius, 2014. „Избранные сочинения в пяти томах“ (составитель и редактор О. Макаровна Канович). – Вильнюс, 2014. „Šėtono apžavai“: romanas / iš rusų kalbos vertė Aldona Paulauskienė; [Marko Kanovičiaus iliustracijos]. – Vilnius, 2020, „Dream about the vanished Jerusalem“: essay / by Grigory Kanovich; translated by Yisrael Elliot Cohen. – Vilnius, 2020.
Grigorijus Kanovičius rašė ir scenarijus kino filmams: 1967 m. „Surask mane“ (rež. Algirdas Araminas, LKS); 1969 m. „Ave, Vita“ (rež. Almantas Grikevičius, LKS); 1971 m. „Žaizdos žemės mūsų“ (rež. Marijonas Giedrys, LKS); 1973 m. „Ties riba“ (rež. Raimondas Vabalas, LKS); 1976 m. „Ilga kelionė prie jūros“ (kartu su I. Fridbergu, rež. Algirdas Araminas, LKS);1979 m. „Lizdas vėjyje“ (kartu su I. Fridbergu, rež. Olav Neuland, Tallinnfilm); 1980 m. „Palinkėk man prasto oro“ (kartu su I. Fridbergu, rež. Varis Brasla, Rygos kino studija); 1980 m. „Miško našlaitės“ (kartu su I. Fridbergu, rež. Kaljo Kiisk, Tallinnfilm).
Nuo 2016 m. Jonavos viešoji biblioteka ir savivaldybė teikia Grigorijaus Kanovičiaus literatūrinę premiją už geriausią prozos metų knygą.
Grigorijus Kanovičiaus už savo kūrybą pelnė daugybę Lietuvos ir Izraelio premijų. Autoriaus knygos buvo kelis kartus pristatomos tarptautinei Bookerio premijai. 1995 m. jis buvo apdovanotas Didžiojo Lietuvos kunigaikščio Gedimino ordino Komandoro kryžiumi, 2010 m. jam paskirta Lietuvos Vyriausybės kultūros ir meno premija, 2014 m. – Nacionalinė kultūros ir meno premija ir Ordino „Už nuopelnus Lietuvai“ Komandoro kryžius. Už romaną „Šėtono apžavai“ 2020 m. rašytojui buvo paskirta Europos rekonstrukcijos ir plėtros banko (ERPB) literatūrinė premija.
Rašytojo kūryba išversta į lietuvių, lenkų, vokiečių, anglų, prancūzų, čekų, bulgarų, vengrų, hebrajų ir kitas kalbas. O ir jis pats buvo puikus vertėjas: išvertė į rusų kalbą daugelį lietuvių literatūros klasikos kūrinių, tarp jų B.Sruogos „Dievų mišką“, „Apyaušrio dalią“, B.Radzevičiaus „Priešaušrio vieškelius“ J.Avyžiaus „Degimus“ ir kitus.
Nuo 2016 m. Jonavos viešoji biblioteka ir savivaldybė teikia Grigorijaus Kanovičiaus literatūrinę premiją už geriausią prozos metų knygą.