Johann Rattenhuber var sønn av gjestgiveriverten Hans Rattenhuber og hans hustru Anna, født Stoyler. i 1904 flyttet familien inn til München, der faren ble deleier i et spedisjonsfirma. Johann gikk på skole og gymnas i München.