Gabrielsen vokste opp på Hadeland, der hans far var sorenskriver. Han ble student i 1908 og cand.jur. i 1914. Året etter kom han til Tana som sakfører, hvor han overtok etter Hagbarth Lund, som var valgt inn på Stortinget. Med unntak av et år i Justisdepartementet, 1922, ble han værende mange år i Finnmark. I 1922 ble han sorenskriver i Vardø og fra 1928 til 1948 var han fylkesmann i Finnmark med sete i Vadsø. Da krigen kom til landet, gjorde han en stor innsats i administrasjonen av både Finnmark og Troms fylke i samarbeid med general Carl Gustav Fleischer. I 1941 ble han arrestert og sendt til Grini, der han satt til krigen sluttet i 1945. Etter at hans oppgave var avsluttet i samlingsregjeringen, dro han tilbake til Finnmark og tok fatt på gjenreisningsarbeidet. I 1948 ble han utnevnt til Fylkesmann i Oppland etter Alfred Ihlen. Der ble han resten av sitt yrkesliv til han gikk av i 1961. For sin innsats ble han kommandør av St. Olavs Orden i 1950, og ved avgangen i 1961 fikk han også stjerne på ordenen.