На Афоне Франциск присоединился к братству старца Даниила Катунакийского, а затем ушел оттуда в поисках более уединенного места для подвижничества. Молодому человеку не удалось сразу найти для себя духовного отца. Он писал о своих переживаниях:
«День и ночь я плакал о том, что не нашел Святую Гору такой, как пишут о ней святые».
Его попытка поступить в ученики к старцу Каллинику Исихасту не увенчалась успехом, так как он отказывался обучать своих послушников умной молитве. Тогда старец Иосиф начал вести отшельнический образ жизни, обитая в пещерах.
Какое-то время Франциск путешествовал по Афону, зарабатывая на жизнь изготовлением метел. В странствиях он познакомился и сблизился с монахом Арсением. В 1921 году Франциск и Арсений стали учениками старца Ефрема Катунакийского. В 1925 г. Франциск был пострижен в Великую Схиму с именем Иосиф.