Germogen wurde 1861 in dem damals über 3000 Einwohner zählenden Donkosaken-Ort Nagawskaja am rechten Ufer des Don geboren. Er machte 1886 seinen Abschluss an der „Geistlichen Akademie Kasan“ der Russisch-Orthodoxen Kirche. Im Jahr 1897 erhielt er die Priesterweihe und wurde Religionslehrer. 1909 bekam er die Mönchsweihe und bereits ein Jahr später erhielt er die Bischofsweihe und wurde Vikarbischof von Rostow am Don. In den Jahren 1917/18 war er Mitglied des Landeskonzils. Nach der Russischen Revolution stand er im Jahr 1918 unter Hausarrest und ging nach seiner Freilassung in den Untergrund. 1919 emigrierte er aus Russland. Von 1922 bis 1929 war er der Leiter der russisch-orthodoxen Gemeinden in Griechenland. 1929 übernahm er die gleiche Funktion im Königreich Jugoslawien.