Ο Όσιος Μάρκος γεννήθηκε στην Αθήνα και, μετά τον θάνατο των γονέων του, αποσύρθηκε στην Αίγυπτο, όπου έζησε ενενήντα πέντε χρόνια σε μια σπηλιά του Θρακικού βουνού, χωρίς να βλέπει κανέναν. Υπέφερε από κρύο και ζέστη, η τροφή του ήταν σπάνια, και ακάθαρτα πνεύματα τον καταδίωκαν. Μετά από τριάντα χρόνια δοκιμασίας, η Θεία χάρη κατέβηκε πάνω του, και άγγελοι του έφεραν τροφή.
Κατά τη διάρκεια συνομιλίας του με τον αββά Σαραπίωνα, έκανε ένα θαύμα μετακινώντας ένα βουνό πέντε χιλιάδων πήχεων, που έδειξε την μεγάλη του πίστη. Ο Όσιος Μάρκος, βλέποντας το βουνό να κινείται, διέταξε να επιστρέψει στη θέση του, και αυτό υπάκουσε. Έκλαψε πικρά όταν συνειδητοποίησε ότι οι χριστιανοί ζούσαν μόνο κατ' όνομα.
Πριν από το τέλος του, προσέφερε προσευχές για τη σωτηρία των χριστιανών και διέταξε τον αββά Σαραπίωνα να τον θάψει στη σπηλιά, σφραγίζοντας την είσοδο. Η ψυχή του έγινε δεκτή στον Ουρανό, και ο αββάς Σαραπίων ήταν μάρτυρας αυτού του θαύματος.
Μετά την ταφή του αγίου, δύο άγγελοι οδήγησαν τον αββά Σαραπίωνα στον μεγάλο γέροντα Ιωάννη, όπου του διηγήθηκε για τη ζωή και το τέλος του Οσίου Μάρκου.
