Рођен је крајем 17. века у Малој Русији и одгајан је у побожности. Служио је као војник у војсци Петра Великог и био је заробљен током руско-турског рата. Продат турском заповеднику, храбро је подносио мучења и није се одрекао хришћанства, тврдећи: "Рођен сам хришћанин, хришћанин ћу и умрети." Његова доброта и марљивост стекле су поштовање његовог господара, који му је понудио слободу, али је он радије остао у штали да се моли.
Свети Јован је служио свом господару, помагао потребнима и делио са њима своју храну. Пре смрти позвао је свештеника, који му је донео Свете Дарове, и он се причестио, након чега је отишао Богу 27. маја 1730. Његово тело је сахрањено по хришћанском обичају, а многи хришћани су се окупили на сахрани.
После три и по године, мошти светог су пронађене нетрулежне и пренете у цркву светог великомученика Георгија, где су почела чуда. Свети је постао поштован не само од стране православних, већ и од Арменца и Турака. Године 1881. део моштију је пренет у Руски манастир светог великомученика Пантелејмона.
Године 1898. освећен је нови храм у част светог Јована Руског. Године 1924. мошти су пренете на острво Евбеју, где се налазе у цркви светих равноапостолних Константина и Хелене, а 1951. године су пренете у нови храм у част светог Јована Руског, где се окупљају ходочасници, посебно на дан његове успомене, 27. маја.
