Fidje blei uteksaminert fra Holt seminar i 1877. Han hadde da vært lærer i Hægebostad fra 1873. Fra 1877 var han også kirkesanger samme sted. Han var lensmann i Hægebostad og Eiken fra 1896 og i Sør-Audnedal fra 1903 til sommeren 1925.