Γεννημένος στη Δυρράχιο, έμεινε ορφανός και εισήλθε στη σχολή της Κωνσταντινούπολης. Τράβηξε την προσοχή του αυτοκράτορα Κομνηνού με τη γλυκιά του φωνή και έγινε αυλικός τραγουδιστής. Παρά την επιτυχία του, υπέφερε από σκέψεις γάμου και πρόσκαιρων απολαύσεων, αποφασίζοντας να φύγει στην έρημο. Στην Αγία Γη συνάντησε έναν ηγούμενο που τον ευλόγησε για τη μοναστική ζωή. Ο Ιωάννης έγινε δεκτός στη λαύρα, όπου φρόντιζε το ποίμνιο και εμβάθυνε στην προσευχή.
Ο αυτοκράτορας, μαθαίνοντας για την φυγή του, τον αναζητούσε, αλλά ο Ιωάννης παρέμεινε άγνωστος. Μια μέρα, εντυπωσιάζοντας έναν ερημίτη με το τραγούδι του, κλήθηκε από τον ηγούμενο. Ο Ιωάννης αποκάλυψε την ταυτότητά του στον ηγούμενο, ο οποίος, φοβούμενος την οργή του αυτοκράτορα, πήγε στην Κωνσταντινούπολη. Ο αυτοκράτορας, ακούγοντας για την απόφασή του να παραμείνει μοναχός, τον ευλόγησε για τη σωτηρία της ψυχής του.
Ο Ιωάννης έχτισε ένα κελί και μια εκκλησία, συνεχίζοντας να τραγουδά στον καθεδρικό ναό. Μια νύχτα, η Μητέρα του Θεού του εμφανίστηκε σε όνειρο, τον ευλόγησε και του έδωσε ένα χρυσό νόμισμα. Ο Ιωάννης, λαμβάνοντας θεραπεία από τις πληγές του, συνέχισε τη πνευματική του ζωή, απολαμβάνοντας μια όραση του τέλους του. Πέθανε με προσευχή στα χείλη του, διατάσσοντας να τον θάψουν στην εκκλησία των Αρχαγγέλων που είχε χτίσει. Τώρα στον ουρανό, δοξάζει τον Θεό με τους αγγέλους.
