Блаженный Иоанн жил в Ростове во времена царя Ивана Васильевича Грозного, ведя жизнь юродивого Христа-ради. Он не имел постоянного пристанища и иногда останавливался у благочестивой вдовы и своего духовного отца, священника Петра. Иоанн всегда носил с собой Псалтирь на латинском языке.
Кончина блаженного Иоанна произошла 3 сентября 1580 года, и его тело было погребено за алтарем церкви святого Власия. Погребение сопровождалось бурей и громом.
После его смерти многие приходили к его гробу, молились и получали исцеления от болезней. Митрополит Кирилл, страдая от болезни, исцелился во время молебна у гроба блаженного. Чудеса продолжали происходить, и о них сообщали царю Михаилу Феодоровичу.
Благочестивый купец, видя милость Божию, построил церковь над гробом блаженного. Мощи блаженного Иоанна ныне находятся в каменной церкви Толгской иконы Божией Матери.
При гробнице находятся кипарисный крест и пергаменная псалтирь, которую святитель Димитрий Ростовский повелел переплести и хранить на гробе. В одной из записей упоминается, что архиепископ Нил с величайшим почтением держал эту книгу в руках.
