Rămânând orfan de mic, a fost crescut de bunica sa, Maria. De tânăr a dorit să devină călugăr, de aceea, la vârsta de 20 de ani, și-a îndreptat pașii spre Mănăstirea Neamț.
La 8 aprilie 1936, rasoforul Ilie (căci așa se numea înainte de călugărie), a fost tuns în monahism, primind numele Ioan. Dorind viață pustnicească, Sfântul Ioan Iacob a plecat în Țara Sfântă, unde s-a nevoit 24 de ani, trăind în post și rugăciune. În anul 1947, a fost hirotonit diacon și, la puțin timp, preot în Biserica Sfântului Mormânt.
În vara anului 1960, simțindu-și sfârșitul aproape, s-a împărtășit cu Sfintele Taine la 4 august, iar în 5 august și-a dat sufletul în mâinile Domnului, la vârsta de 47 de ani, scrie ziarullumina.ro.
A fost canonizat de Sfântul Sinod al Bisericii Ortodoxe Române la 20 iunie 1992. În anul 2018, un fragment din moaștele Sfântului Ioan Iacob de la Neamţ și epitrahilul pe care sfântul l-a purtat în timpul vieții au fost dăruite pentru Catedrala Națională de către Patriarhul Ierusalimului, Teofil al III-lea. De asemenea, o părticică din moaştele Sfântului Ioan Iacob (degetul mic) se află în Biserica „Sfântul Ioan Iacob”, din incinta Seminarului Teologic Ortodox „Veniamin Costachi” de la Mănăstirea Neamţ.