Rolf Mowinckel var sønn av presten Jørgen Blydt Mowinckel (1858–1942) og Petra Johanne Meitzner (1861–1918), og bror av teologen Sigmund Mowinckel (1884–1965). Han vokste opp i Ålesund, hvor han tok i 1912. I 1920 tok han språklig-historisk embetseksamen. Fra 1921 var han ansatt ved Universitetets oldsaksamling. Han foretok studiereiser til Italia (1922) og Egypt (1925–1926).