Græbe vokste opp i Malmö hvor han tok examen artium i 1910. Han gikk deretter i murerlære og ble ansatt hos Kay Fisker i København og hos domkirkearkitekt Theodor Wåhlin i Lund i 1910-årene. Studerte ved 'Kunstakademiet' i København der han tok eksamen i 1923. Græbe drev eget arkitektkontor i Malmö 1922–43, med Aage Schoug (1902–1974) fra 1930-tallet og framover. Han gjorde studiereiser til USA i 1913, Paris i 1921, Det nære østen i 1923 og Italia i 1933. Græbe var tjenestegjørende arkitekt for Byggnadsstyrelsen fra 1930. Fra 1944 til 1967 var Græbe domkyrkearkitekt i Lund. Græbe ble i 1968 utnevnt til æresdoktor ved Lunds universitet og han var medlem av Vetenskapssocieteten i Lund. Han var medlem av Sveriges arkitekters riksförbunds (SAR) styre 1953–56.