Han var sønn av gårdbruker Ole Petersen Røkke og Anne Jensdatter Røkke på Nordre Røkke (Rykkja). Han var døpt Ole Johan, men brukte bare navnet Olav. Blant hans søsken var Johan Peter Røkke og Jens Røkke, som begge ble lærere og ordførere.