Unger tok examen artium i 1866 og juridisk embedseksamen i 1871. Han arbeidet deretter som advokat i Christiania, blant annet for den tyske legasjon. Unger var også formann i Nationaltheatrets representantskap, og styreleder for forsikringsselskapene Folke­pensjonskassen Glitne og Det norske Garantiselskab.