Etter hans uteksaminering arbeidet han i en rekke familierelaterte virksomheter, inkludert Chase National Bank, Rockefeller Center, styremedlem i 1931, tjenestegjorde som president (1938–45 og 1948–51) og som styreformann (1945–53 og 1956–58), samt Creole Petroleum, det venezuelanske datterselskapet til Standard Oil of New Jersey, i perioden 1935–40. Fra 1932 til 1979 var han bestyrer av Museum of Modern Art, hvor han også var kasserer fra 1935 til 1939 samt president i periodene 1939–41 og 1946–53. Han etablerte sammen med sine fire brødre det filantropiske Rockefeller Brothers Fund i 1940, hvor han var bestyrer i periodene 1940–75 og 1977–79, samt som president i 1956. Rockefeller var en pasient av den berømte synske Edgar Cayce.