Gjone avla studenteksamen i 1916 og begynte deretter ved Norges tekniske høgskole (NTH) der han gikk ut som arkitekt i 1920. Etter avsluttede studier arbeidet han en periode i Bergen hos arkitekt Ole Landmark. I 1936 ble Gjone ansatt som dosent i eldre norsk byggekunst ved NTH. Fra 1947 var han professor i byggekunstens historie samme sted. Gjone gikk av med pensjon i 1968.