Gerhard Rohlfs var tredje sønn av en landsens lege. I barndommen og tidlig i ungdomsårene ble han og hans seks søstre undervist av huslærere. Den kroppslig svært svake gutten viste seg i ungdommen som en svak elev, og ville ikke etterkomme foreldrenes ønske om at han skulle studere medisin.