酒不赌，生活严格自律，甚至对奢侈品有种近乎过度的反感，也对晚辈如此要求。儿子小约翰·洛克菲勒回忆：「我小时候常常在穿姊姊穿过的旧衣服。」他25岁结婚后直到去世，再也没有第二段男女关系。他工作以外的活动主要有二：教会与高尔夫球。他固定在礼拜日上教堂，每日读圣经。高尔夫球是他长年的最大娱乐，一直到约94岁他才停止假日打球的习惯。洛克菲勒于1864年与劳拉·斯佩尔曼（1839-1915）结婚。婚后生有四女一子，年龄最小也是唯一的儿子就是着名的小约翰·洛克菲勒（1874-1960）。
评