Saba urodził się w 439 r. koło Cezarei Kapadockiej. Kiedy miał 18 lat, udał się do Palestyny, aby tam dołączyć do mnichów w klasztorze założonym przez św. Passariona.
Nie był jednak zadowolony z życia tamtejszych braci. Za zezwoleniem opata zamieszkał w skalnej grocie jako pustelnik, a jedynie w soboty i w niedziele przychodził do klasztoru, aby wieść życie wspólne i uczestniczyć w liturgii.
Z czasem gromadzili się wokół niego uczniowie, dla których Saba założył klasztor, wybudował kościół i cele mnichów. Kiedy liczba mnichów się powiększała, św. Saba założył kilka innych podobnych klasztorów w Palestynie.
Mówi o. Stanisław Tasiemski, dominikanin.
Czymś oryginalnym i niespotykanym dotąd ani potem, były zakładane przez św. Sabę klasztory-kolonie. Mogły do nich należeć osoby różnych narodowości i języków. Każda kolonia miała swoją kaplicę, gdzie w swoim języku można było sprawować liturgię i codzienne modlitwy. Każda z tych kolonii miała też swojego przełożonego. W niedziele oraz w święta wszyscy mnisi gromadzili się w kościele, gdzie w języku greckim odprawiano nabożeństwa.
Saba zmarł w jednym ze swoich klasztorów 5 grudnia 532 r. Jego relikwie były czczone w Mar Saba, a potem zostały przeniesione do Konstantynopola, wreszcie do Wenecji. W roku 1965 na życzenie papieża Pawła VI Wenecja oddała relikwie św. Saby prawosławnym mnichom.