Ο Άγιος Ιωάννης εγκατέλειψε τον κόσμο και έγινε μοναχός στην Παλαιστίνη, κοντά στην Ιερουσαλήμ. Περνούσε τις μέρες του προσευχόμενος, ζώντας ασκητικά και νηστεύοντας. Εγκαταστάθηκε σε μια σπηλιά, όπου τοποθέτησε την εικόνα της Υπεραγίας Θεοτόκου. Προτού φύγει για οποιοδήποτε ταξίδι, άναβε μπροστά της ένα λύχνο και προσευχόταν να κρατήσει η φλόγα του μέχρι να επιστρέψει.
Ο άγιος ήταν ιδιαίτερα ενάρετος. Συχνά επιτελούνταν γύρω του θαύματα, που μαρτυρούσαν την οσιακή προσωπικότητά του και τον θεάρεστο βίο του. Τα ζώα υποτάσσονταν σε αυτόν και τα άγρια θηρία τον πλησίαζαν ειρηνικά.
Όταν, κάποτε, ήρθε κοντά του ένας αδελφός, θαύμασε την παντελή έλειψη υλικών αγαθών από τη σπηλιά του. Ο άγιος του απάντησε πως ό,τι χρειαζόταν το προμηθευόταν από την πνευματική αγορά του Κυρίου.
Έζησε μια μακρά ζωή, γεμάτη πίστη και ασκητικούς αγώνες, έως ότου αναχώρησε προς τον Κύριο, άγιος μεταξύ αγίων.
