Gjerdrum mottok en rekke utmerkelser for sitt virke. I 1885 ble han utnevnt til ridder av St. Olavs Orden. Han mottok Kong Oscar IIs jubileumsmedalje og var kommandør av 2. klasse av Vasaordenen. Han var også offiser av Æreslegionen og offiser av det franske akademi, offiser av Oranje-Nassau-ordenen og mottok 4. klasse av Den røde ørns orden.