Hergt gikk på Domgymnasium Naumburg og studerte deretter jus i Würzburg, München og Berlin. Han var først dommerfullmektig i Sachsen og dommer i Bad Liebenwerda, deretter, fra 1905–14 hadde han ulike stillinger i det prøyssiske finansdepartementet. Han ble så regjeringspresident i 1914 i Liegnitz og i 1916 i Oppeln. Fra august 1917 til november 1918 var han prøyssisk finansminister.