Gerhardsen var styrmann, og tok skippereksamen i 1915. Siden jobbet han som likningsassistent fra 1918 til 1924.