Unger var formann i Kristiania Konservative Forening (det senere Oslo Høyre) fra 1903 til 1907. Han ble utnevnt til ridder av 1. klasse av St. Olavs Orden i 1905.