Rockefeller, som leder av republikanernes østre etablissement, startet som leder i nominasjonen i 1964 foran den konservative senatoren Barry Goldwater fra Arizona, som ledet høyrefløyen av det republikanske partiet. I 1963, ett år etter Rockefellers skilsmisse fra sin første kone, giftet han seg med Margaretta «Happy» Murphy, en fraskilt dame med fire barn, som fremmedgjorde ham for mange republikanske gifte kvinner. Skilsmissen var allment fordømt av politikere, slik som den liberale senatoren Prescott Bush fra Connecticut, som fordømte hans utroskap, skilsmisse og gjengifte. Rockefeller endte opp på tredjeplass i New Hampshire primærvalget i mars, etter Henry Cabot Lodge II (fra nabostaten Massachusetts) og Goldwater. Han oppnådde deretter dårlige resultater i flere andre partiprimærvalg før han overraskende vant i Oregon i mai. Rockefeller tok en sterk ledelse i primærvalget i California, og hans team virket så sikre på hans seier at de reduserte reklamefinansieringen i de siste dagene av valgkampen. Men fødselen av Rockefellers barn tre dager før primærvalget i California sendte skilsmissen og gjengifteproblematikken tilbake i velgernes minne, og på valgdagen tapte Rockefeller snevert primærvalget i California og droppet ut av valgkampen. På et nedslående punkt under primærvalget 1964 i California mot Goldwater, ba hans topp politiske assistent Stuart Spencer Rockefeller om å «mobilisere det sagnomsuste neksus av penger, innflytelse og nedlatenhet kjent som det Østlige Etablissementet. 'Du ser på det, buddy,' sa Rockefeller til Spencer, 'Jeg er alt som er igjen.'» Rockefeller overdrev, men kollapsen av hans del av partiet hadde startet.