Rockefeller ble født i Richford, New York og flyttet i 1853 med familien til Strongsville, Ohio. Som en elev i grunnskolen, ble han inspirert og motivert av hans lærermentor Rufus Osgood Mason, som Rockefeller senere kalte «».