Etter examen artium i 1908 og eksamen fra lærerskole i 1910 var han lærer i tre år, studerte så filologi ved Det Kongelige Frederiks Universitet i Kristiania som ga en cand.philol. i 1917 på en avhandling om Fagrskinna, et skrift om diverse konger fra 1200-tallet. Han ble amanuensis (en som foreleser) ved Riksarkivet, studerte i København og Berlin, før han i 1921 ble dosent i norrøn filologi. Samme året grunnla han et arkiv over norske stedsnavn sammen med professorene Magnus Olsen og Edvard Bull d.e.. En avhandling om navn på innsjøer i Oppland ga ham en doktorgrad i 1925. I 1930 ble han professor ved Bergens Museum i vestnorsk språkgranskning. Han var målmann og leder for Noregs Mållag fra 1930 til 1932. Fra 1923 til 1929 hadde han vært formann i forlaget Det Norske Samlaget. Med sin bror biskop Ragnvald Indrebø utferdiget Gustav Det Norske Bibelselskaps oversettelse av Bibelen til nynorsk som kom ut i 1938, den såkalte «Indrebøbibelen».