Монашество та пустельництво в Росії виникли з прийняттям християнства. Києво-Печерська Лавра, заснована священиком Іларіоном та преподобним Антонієм, стала серцем російського монашества. Пустельництво почало розвиватися в кінці XII та на початку XIII століть. Псковські монастирі, такі як Єлеазарівський та Крипецький, також почали з'являтися. Місце, де знаходяться псковські печери, було оточене таємничою аурою, і мисливці, полюючи в печерах, чули церковне співання, але не бачили співаючих. Це явище було прийнято за благодатне. Ізборяни придбали цю землю у псковитян, а Іван Дементьєв відкрив 'Богом збудовану печеру' в 1392 році. Преподобний Марк, четвертий великий пустельник, залишив слід в історії, але про його життя не збереглося детальних відомостей. Він міг бути місцевим жителем або прийшлим з інших місць. Його життя пройшло в усамітненні та молитві, і він передав свою душу Богові. Його тіло було поховане в дубовій колоді, а його ім'я було записане в Синодик. У 1642 році мощі преподобного Марка були перенесені і знаходяться в реликварії. Пам'ять про нього святкувалася раніше 29 березня, а з 1987 року відзначається в день загальноцерковного святкування Собору Псковських святих.
