Gabriel Gustafson studerte arkeologi ved Uppsala universitet fra 1871, blant annet under Oscar Montelius. Der ble han amanuensis ved universitetets oldsakssamling 1881–89. Sin filosofie licentiatexamen tok han i 1889, og meldte samme året overgang til Bergens Museum der han tok over etter Anders Lorange i stillingen som konservator ved de antikvarisk-kulturhistoriske samlinger. I sin Bergens-epoke jobbet han nært med zoologen Jørgen Brunchorst, som hadde tiltrådt samme året. Gustafsons viktigste utgraving var en boplass fra jernalderen på Holeheia i Klepp på Jæren 1889–99. Han ledet også lokalavdelingen av Fortidsminneforeningen fra 1893. Han var også involvert i lovforslaget av 1897 om fredning av fornminner (loven kom i 1905).