J.Bielinis mirė 1918-ųjų sausio 18 dieną dabartiniame Katinų kaime, Panevėžio rajone, kaip manoma, pakeliui į Vilnių, iš kurio vis dažniau pasiekdavo žinios apie artėjančią Nepriklausomybę.
XIX amžiaus antroje pusėje carinei valdžiai uždraudus lietuvišką spaudą, J.Bielinis kartu su kitais knygnešiais kelis dešimtmečius slapta per sieną gabeno Mažojoje Lietuvoje spausdintas knygas ir laikraščius.
Žymiausias Lietuvos knygnešys caro žandarams ir pasienio sargybiniams buvo įkliuvęs penkis kartus – visąlaik pavykdavo ištrūkti.
Kai kurių Vakarų istorikų nuomone, knygnešių veikla buvo vienas iš svarbiausių veiksnių, paskatinusių sąlygas skelbti Lietuvos nepriklausomybę.
J.Bielinio gimimo diena – kovo 16-oji – minima kaip Knygnešio diena.