Hauge slo igjennom som skjønnlitterær forfatter i 1993 med kriminalromanen . Romanen seiret samme år i en konkurranse om beste nordiske kriminalroman. I romanen presenteres også Hauges krimhelt, Petter Eliassen, som er en gjenganger i de fleste av forfatterens kriminalromaner. Hauge skrev fagbøker, barnebøker og prisbelønnede klassiske detektivfortellinger/politiromaner fra vestnorsk bygdemiljø. Sammen med Magnhild Bruheim regnes han som en av de fremste eksponentene for subgenren «bygdekrim».