S-a născut la sfârșitul secolului al XVII-lea în Mică Rusie și a fost crescut în evlavie. A slujit ca soldat în armata lui Petru cel Mare și a fost capturat în timpul războiului ruso-turc. Vândut unui comandant turc, a suportat cu stoicism torturile și nu s-a lepădat de creștinism, afirmând: "M-am născut creștin și voi muri creștin." Bunătatea și hărnicia lui i-au câștigat respectul stăpânului său, care i-a oferit libertatea, dar el a preferat să rămână în grajd pentru rugăciune.
Sfântul Ioan și-a slujit stăpânul, a ajutat pe cei nevoiași și a împărțit cu ei hrana sa. Înainte de moarte, a chemat un preot, care i-a adus Darurile Sfinte, și s-a împărtășit, după care a plecat la Dumnezeu pe 27 mai 1730. Trupul său a fost îngropat conform obiceiului creștin, iar mulți creștini s-au adunat pentru înmormântare.
La trei ani și jumătate după aceea, moaștele sfântului au fost găsite neputrezite și au fost transferate în biserica Sfântului Mare Mucenic Gheorghe, unde au început să se întâmple minuni. Sfântul a început să fie cinstit nu doar de ortodocși, ci și de armeni și turci. În 1881, o parte din moaște a fost transferată la mănăstirea rusă a Sfântului Pantelimon Mare Mucenic.
În 1898, a fost sfințit un nou lăcaș de cult în cinstea Sfântului Ioan Rusul. În 1924, moaștele au fost transferate pe insula Eubeea, unde se află în biserica sfinților împărați Constantin și Elena, iar în 1951 au fost mutate într-o nouă biserică în cinstea Sfântului Ioan Rusul, unde se adună pelerini, mai ales în ziua pomenirii sale, 27 mai.
