Markhus var sønn av gårdbruker Ola Olsen Markhus (1849–1928) og Marta Sakariasdotter Vinje (1843–1883), og ble født på Markhus i Åkrefjorden i Skånevik. Han ble utdannet til lærer og jobbet i Skåre og Haugesund. Han var utover dette redaktør av Haugesunds Avis (1911–1913) og bestyrer av Sunnhordland folkehøgskule (1914–1924).