ב-1944, מינה הנשיא רוזוולט את רוקפלר לעוזר מזכיר המדינה לנושאי רפובליקות אמריקניות. רוקפלר יזם ועידה בין-אמריקנית בנושא מלחמה ושלום ב-1945. הוועידה התוותה מסגרת כלכלית, חברתית וביטחונית לשיתוף פעולה בין המדינות, וקבעה שהתקפה על מדינה אחת תיאלץ את כל שאר המדינות להיחלץ להגנת המותקפת.
רוקפלר היה ציר לוועידת האומות המאוחדות הראשונה בסן פרנסיסקו ב-1945. רוקפלר הצליח לשכנע את האו"ם בצורך שבבריתות אזוריות, ואפשר את אשרור הברית הכלל-אמריקנית. בנוסף לכך הצליח לשכנע את האו"ם להקים את משרדיו בניו יורק.
הנשיא טרומן פיטר את רוקפלר, שינה את המדיניות שלו וסגר את המועצה לתאום מבצעים. רוקפלר הרגיש מנודה בוושינגטון וחזר לניו יורק.
חזרה לניו יורק.
לאחר שחזר אל ביתו באמצע 1945, כיהן רוקפלר כיו"ר מרכז רוקפלר (1945-53 ו-58–1956) והחל בהרחבת המרכז. הוא הקים את האיגוד האמריקני הבינלאומי לפיתוח כלכלי וחברתי ב-1946, ואת תאגיד הכלכלה הבסיסית הבינלאומי ב-1947, כדי להמשיך את חזונו כמתאם העניינים הבין-אמריקניים. הוא כיהן כנשיא שתי האגודות עד 1958. האיגוד האמריקני היה ארגון נדבנות שתמך בצורה טכנית ובמשלוחי ציוד למדינות המתפתחות, כדי לחסל את הבערות, המחלות והעוני. התאגיד היה עסק רווחי שהקים תאגידים שנועדו להתניע את הכלכלה במדינות המתפתחות. רוקפלר קיווה שהצלחת התאגידים תסייע למשקיעים להשקיע במדינות הללו ולעודד את הכלכלה המקומית. הוא הקים בעזרת האגודות חוות בוונצואלה, אקוודור וברזיל. הוא גם שמר על בית בחווה בוונצואלה.
חזרה לשירות הציבורי.
רוקפלר חזר אל השירות הציבורי ב-1950 כשהנשיא הארי טרומן מינה אותו ליושב ראש מועצת היועצים לפיתוח בינלאומי. המועצה הייתה חלק מתוכנית Point Four Program, אותה יזם הנשיא טרומן לסיוע כלכלי למדינות מתפתחות. ב-1952, ביקש הנשיא הנבחר דווייט אייזנהאואר שרוקפלר יעמוד בראשות הוועדה המייעצת לארגון ממשלתי, שתמליץ על דרכים לשיפור יעילות הממשלה. רוקפלר המליץ על שלוש עשרה תוכניות לארגון מחדש, שכולן אומצו. התוכניות הובילו לשינוי ארגוני במחלקת ההגנה ובמחלקת החקלאות. המלצותיו גם הובילו להקמת מחלקת הבריאות, החינוך והרווחה. רוקפלר מונה לסגן המזכיר ב-1953. הוא היה פעיל בהעברת חוקים מהמחלקה והוסיף אל תוכנית הביטוח הלאומי עוד עשרה מיליון אמריקנים.
ב-1954, מונה ליועצו המיוחד של אייזנהאואר לנושאי חוץ. הוא סיפק לנשיא עצות וסיוע בפיתוח תוכניות שבעזרתן יכלה הממשלה להתמודד עם האתגרים של ברית המועצות בתחומי חוץ. כחלק מאחריותו מונה אל המועצה לתאום מבצעים - שהיא ועדה הפועלת במסגרת המועצה לביטחון לאומי של ארצות הברית והאחראית בין היתר על הפיקוח על פעולות ה-CIA. מטרתה הייתה לפקח על שיתוף הפעולה בין המחלקות בנושאי ביטחון ובנושאים חשאיים.
רוקפלר תמך בסיוע כלכלי למדינות חיצוניות כדרך לחזק את הביטחון הלאומי. רוב יוזמותיו נחסמו בידי מזכיר המדינה, ג'ון פוסטר דאלס, וסגנו הרברט הובר, הבן. שניהם היו מסורתיים ולא רצו התערבות מבחוץ., גם העלות התקציבית של היוזמות הובילו לביטולן. ביוני 1955 ניהל רוקפלר ועידת מומחים מתחומים שונים כדי לדון בנושא המלחמה הקרה ופיתוח הצעות שיוכלו לסייע לארצות הברית. כהצעה נגדית להצעת הפירוק מנשק של ברית המועצות, הציעה הוועידה מדיניות בה שתי המעצמות יחליפו ביניהן שרטוטים של בסיסים צבאיים ויסכימו לחופש טיסות מעליהן, מה שיקטין את תקיפות הפתע. התחושה הייתה שהסובייטים לא יוכלו לסרב לכך אם היו רציניים בנוגע לפירוק מנשק.
במרץ 1955, הציע רוקפלר הקמת קבוצה שתתכנן מבצעים לביטחון לאומי. הקבוצה נועדה להכיל את סגן מזכיר המדינה, סגן מזכיר ההגנה, יו"ר ה-CIA ואת רוקפלר כיושב ראש. מטרתה הייתה לפקח על ה-CIA ועל הפעולות נגד הקומוניזם. מחלקת המדינה ויו"ר ה-CIA, אלן דאלס, סירבו לשתף פעולה עם הקבוצה. בספטמבר ביטל רוקפלר את הקבוצה והתפטר מתפקידו כיועץ מיוחד לנשיא.
בשנת 1956 ייסד את הפרויקט למחקרים מיוחדים (Special Studies Project) שנוהל על ידי הנרי קיסינג'ר ומומן על ידי קרן האחים רוקפלר שבראשה עמד באותה עת. מטרת הפרויקט הייתה לזהות ולהגדיר את הבעיות המרכזיות וההזדמנויות שבפניהן תתייצב ארצות הברית ולהבהיר את המטרות הלאומיות. תוצאות המחקר פורסמו בדוח בשנת 1961.
המחקר בלט בהמלצתו להרחבת הצבא כדי להתמודד עם האיום הצבאי מצד ברית המועצות. הוא פורסם רק חודשיים לאחר שיגור ספוטניק 1 ואייזנהאואר אימץ אותו בנאום מצב האומה בינואר 1958.
עבודתו במסגרת פרויקט זה עם הנרי קיסינג'ר התפתחה ליחסים הדוקים לשארית חייו. הנרי קיסינג'ר תארו מאוחר יותר כעמיתו האינטלקטואלי הקרוב ביותר. מאותה עת העסיק רוקפלר את קיסינג'ר כיועץ במשרה חלקית, במיוחד בתחום מדיניות החוץ, עד שהחל לעבוד עבורו במשרה מלאה בשנת 1968.
מושל מדינת ניו יורק (1959-73).
בשנת 1956 עזב רוקפלר את עבודתו עבור הממשל הפדרלי והחל עוסק בפוליטיקה המקומית של מדינת ניו יורק ומקומה בין מדינות ארצות הברית. בין ספטמבר 1956 ובאפריל 1958, עמד בראש ועדה זמנית לגבי חוקת ניו יורק. לאחר מכן עמד בראש ועדה מיוחדת לנושאי חקיקה. בשנת 1958 נבחר למושל ניו יורק, כשהוא גובר על המושל הקודם הרימן בהפרש של 600,000 קולות, למרות הניצחונות של המפלגה הדמוקרטית באותה השנה. רוקפלר שימש כמושל ניו יורק בין השנים 1959–1973. במהלך שנים אלה התמודד בהצלחה בארבע מערכות בחירות (1958, 1962, 1966 ו-1970). כדי לשלם על ההוצאה הממשלתית, נאלץ רוקפלר להעלות את המיסים, ולהנהיג מס מכירות. שלוש שנים לאחר תחילת כהונתו הרביעית, התפטר כדי לעבוד בוועדה לבחירות קריטיות עבור האמריקנים.
למרות הונו, רוקפלר הצטייר כאדם נגיש להמונים, חסר גינונים, שרקם מערכת יחסים טובה עם העיתונות. העיתונאים נמנעו מלהרחיב בחופשותיו התכופות, אף כאשר הופיע שזוף היטב במהלך החורף הניו יורקי.
חינוך.
רוקפלר היה הכוח המניע שהפך את אוניברסיטת מדינת ניו יורק למערכת ציבורית של השכלה גבוהה הגדולה ביותר בארצות הברית. הוא הגדיל אותה מאוניברסיטה בת עשרים ותשעה קמפוסים ו-38,000 סטודנטים לשבעים ושניים קמפוסים ו-232,000 סטודנטים. הוא הכפיל פי ארבעה את הסיוע לבתי ספר, תקצב טלוויזיה חינוכית ודרש חינוך מיוחד לילדים עם צרכים מיוחדים בבתי הספר הציבוריים.
שימור סביבתי.
בגלל העניין האישי שלו בעיצוב ותכנון, קידם רוקפלר יוזמות בתחום שימור הסביבה ותרם להרחבת מערכת הפארקים של מדינת ניו יורק ושיפור המתקנים הציבוריים בפארקים הקיימים. הוא שכנע את ציבור הבוחרים בצורך בחקיקה למכירת איגרות חוב ביותר מ-300 מיליון דולר לצורך רכישת יערות לטובת הציבור, והחל בבנייה של חמישים וחמישה פארקים חדשים. יזם סקרים סביבתיים, כך למשל בנושא אובדן קרקעות חקלאיות לטובת פיתוח עירוני. בנוסף החל בטיהור מים, הקים מחלקה לשימור הסביבה, אסר על שימוש בדי-די-טי ובחומרי הדברה אחרים, והקים משרד לשימור פארקים.
תעבורה.
ב-1967 הצליח רוקפלר לגייס באיגרות חוב 2.5 מיליארד דולרים עבור פיתוח התחבורה הציבורית. רוקפלר יזם בניית אוטוסטרדות רבות והרחבת כבישים ראשיים אחרים, דבר ששיפר באופן משמעותי את זרימת התנועה בניו יורק. הוא סלל 35,000 קילומטרים של כבישים. רוקפלר היה הראשון שתקצב על חשבון המדינה את התחבורה הציבורית. הוא שינה את מערכת התחבורה הציבורית בניו יורק והקים רשות לפיקוח על התחבורה ב-1965. בנוסף לכך הקים מחלקה לתעבורה.
האגרה שנגבתה מהגשרים והמנהרות, שבעבר סייעה לבנייה של עוד גשרים ומנהרות, הובילה לתמיכה בתחבורה הציבורית. רוקפלר ביטל תוכנית להקמת גשר במנהטן עקב התנגדות סביבתית.
דיור.
רוקפלר יזם הקמת חברה ממשלתית לפיתוח אורבני לצורך בניית דיור מוזל. עד 1973, מספר התחלות הבנייה עלה על 88,000 יחידות למשפחות בעלות הכנסה נמוכה ולקשישים.
רווחה וביטוח רפואי.
בנושא הסיוע הציבורי, החל ממשל רוקפלר בתוכנית הביטוח הרפואי לנזקקים הגדולה ביותר בתולדות ארצות הברית תחת מדיקאייד. הוא הוביל להורדת מספר הנתמכים במדינה, לראשונה מאז מלחמת העולם השנייה, ודרש מהנתמכים לעבוד או לעבור הכשרה תעסוקתית. בנוסף הפעיל מפעלי הזנה לילדים באזורים בעלי הכנסות נמוכות והקים את קרן ההלוואות הראשונה למרכזי טיפול יום.
זכויות האזרח.
רוקפלר אסר על כל אפליה בדיור ובמרחבים הציבוריים. הוא אסר על אפליה בהענקת עבודות לפי מין וגיל, העלה בחמישים אחוז את מספר ההיספנים והשחורים במגזר הציבורי, מינה יותר נשים מכל קודמיו לסוכנויות הביצוע של הממשל, אסר על אפליה כנגד נשים בחינוך, תעסוקה ובדיור, מינה את האישה הראשונה למשטרה המקומית, הנהיג העדפה מתקנת לנשים במגזר הציבורי והוביל את מדינתו לאשרור התיקון החוקתי שהבטיח זכויות שוות.
אומנות.
רוקפלר הקים את מועצת האמנות המקומית הראשונה במדינה. הוא פיקח על הקמת מוזיאונים לאמנות.
פשע.
בתקופתו כמושל, הכפיל רוקפלר את מספר השוטרים, הקים אקדמיה לשוטרים, חיזק את סמכויות השוטרים והקים עוד בתי משפט.
ניו יורק הייתה המדינה האחרונה שחייבה מתן עונש מוות לרצח מדרגה ראשונה. ב-1963 חתם רוקפלר על חוק שביטל את השיטה והנהיג שיטת משפט בת שני שלבים לרוצחים. רוקפלר תמך בעונש המוות וחתם, בתוקף סמכותו כמושל, על 14 צווים של הוצאה להורג בכיסא חשמלי. ההוצאה להורג האחרונה במדינת ניו יורק התבצעה בשנת 1963.. חרף זאת, בשנת 1965 חתם על החוק המסיר את עונש המוות מספר החוקים, להוציא במקרים של רצח שוטר.
רוקפלר תמך במצע של ריצ'רד ניקסון שהבטיח "חוק וסדר".
מדיניות נגד סמים.