התקוות שהסכם גנדי-ארווין יהווה הקדמה לתקופה רגועה יותר של יחסי התושבים ההודים עם הרשויות הבריטיות לא התממשה; פרימן תומאס, המרקיז מווילינגטון (שהחליף את ארווין כמשנה למלך ב-1931) כלא את גנדי בינואר 1932, זמן קצר לאחר שובו של גנדי מוועידת השולחן העגול השני בלונדון. גנדי הואשם בניסיון להקים תנועת אי-ציות אזרחית נוספת ונהרו גם כן נעצר ונידון לשנתיים מאסר. במקביל נוצר קרע פנימי בתנועת הקונגרס בין מחנה גנדי-נהרו לבין מחנהו של סובהאז צ'נדרה בוסה. בוסה התמנה לצד נהרו לנשיא הקונגרס ב-1929. יחד השניים ייצגו את סיעת המפלגה המיליטנטית יותר של מפלגת הקונגרס (בוסה) כנגד הסיעה הגנדית המתפשרת יותר (נהרו). למעשה, הקונגרס פעל רבות להתעלם מהבעיות והקרעים הפנימיים שבתוכו למען ייצג מפלגה אחת וחזקה שתפגין סמכות נגד העליונות הבריטית על הודו. הקרע בין בוסה לבין גנדי ונהרו העמיק עד לנקודה שבוסה החליט לפרוש מתנועת הקונגרס ולהקים סיעה מיליטנטית בעלת נאמנות אישית עבורו שפעלה לצד מדינות הציר (בחסות האימפריה היפנית) במהלכה של מלחמת העולם השנייה.
שלושת ועידות השולחן העגול בלונדון, שנערכו כדי לקדם את התקדמותה של הודו לממשל עצמי, הביאו בסופו של דבר לחוק ממשלת הודו משנת 1935, שהעניק למחוזות ההודיים מערכת של ממשל אוטונומי עממי. בסופו של דבר, היא סיפקה בסיס למערכת פדרלית המורכבת מהפרובינציות האוטונומיות ומדינות הנסיכויות של הודו. אף על פי שהפדרציה מעולם לא נוצרה, יושמה אוטונומיה פרובינציאלית שהייתה הרקע לחלוקה המנהלית של הודו העצמאית. במהלך אמצע שנות ה-30 נהרו היה מודאג מאוד מההתפתחויות באירופה, שנראה כי נסחפת לעבר מלחמת עולם נוספת. הוא בילה באירופה בתחילת 1936, וביקר את אשתו החולה, זמן קצר לפני שנפטרה בסנטוריום בלוזאן, שווייץ. גם באותה תקופה הוא הדגיש שבמקרה של מלחמה מקומה של הודו לצד המדינות הדמוקרטיות, אם כי הוא התעקש שהודו תוכל להילחם לצד בריטניה הגדולה וצרפת רק כמדינה חופשית.
מלחמת העולם השנייה.
כאשר הבחירות בעקבות הנהגת האוטונומיה המחוזית הביאו את מפלגת הקונגרס לשלטון ברוב המחוזות, נהרו עמד בפני דילמה. הליגה המוסלמית בהנהגתו של מוחמד עלי ג'ינה (שעתיד היה להיות אביה של פקיסטן) הצליחה להשיג תמיכה מועטה בלבד במחוזות בעלות אוכלוסייה מוסלמית רבה. הקונגרס, בעקבות הבחירות, דחה את תחינתו של ג'ינה להקמת ממשלות קואליציה של הקונגרס והליגה המוסלמית בכמה מהמחוזות, החלטה שבה תמך נהרו. ההתנגשות שלאחר מכן בין הקונגרס לליגה המוסלמית התקשה לכדי סכסוך בין הינדים למוסלמים שבסופו של דבר הוביל לחלוקת הודו וליצירת פקיסטן.
עם פרוץ מלחמת העולם השנייה בספטמבר 1939, המשנה למלך, ויקטור הופ, המרקיז השני מלינלית'גו, התחייב על הצטרפותה של הודו הבריטית למלחמה לצד שאר האימפריה הבריטית מבלי להתייעץ עם משרדי המחוזות האוטונומיים. ההנהגה העליונה של מפלגת הקונגרס הסירה את חבריה ממשרדי המחוזות כאות מחאה, אך פעולתו של הקונגרס הותירה את השדה הפוליטי פתוח למעשה עבור בחירתם של ג'ינה והליגה המוסלמית בקרב המחוזות בעלי רוב אוכלוסייה מוסלמי. השקפותיו של נהרו על המלחמה היו שונות מאלו של גנדי. בתחילה, גנדי האמין שכל תמיכה שניתנת לבריטים צריכה להינתן ללא תנאי וכי היא צריכה להיות בעלת אופי לא אלים. נהרו קבע כי לאי-אלימות אין מקום בהגנה מפני תוקפנות וכי על הודו לתמוך בבריטניה הגדולה במלחמה נגד הנאציזם אך עליה לעשות זאת רק כמדינה חופשית עצמאית.
באוקטובר 1940, גנדי, שנטש את עמדתו המקורית, החליט להשיק מסע אי-ציות אזרחי מצומצם שבו נבחרו חסידי עצמאות הודו להשתתף בזה אחר זה. נהרו, השני מבין אותם מנהיגים, נעצר ונידון לארבע שנות מאסר. לאחר שבילה קצת יותר משנה בכלא, הוא שוחרר, יחד עם אסירי קונגרס נוספים, שלושה ימים לפני המתקפה על פרל הארבור בהוואי. כאשר יצאו היפנים בפלישתם דרך בורמה (כיום מיאנמר) אל גבולות הודו הבריטית באביב 1942, ממשלת בריטניה, מול אותו איום צבאי חדש, החליטה להעביר סדרת החלטות להטבה ביחסים עם ההנהגה ההודית למען תמיכה אזרחית במסגרת המלחמה. ראש ממשלת הממלכה המאוחדת וינסטון צ'רצ'יל שלח לסר סטפורד קריפס, חבר בקבינט המלחמה הבריטי שהיה מקורב פוליטית לנהרו וגם הכיר את ג'ינה, הצעות ליישוב הבעיה החוקתית של הודו בדבר שלטון עצמאי. המשלחת של קריפס כשלה שכן גנדי סירב לקבל פחות מאשר עצמאות מוחלטת.
היוזמה במפלגת הקונגרס עברה אז לידי גנדי, שקרא לבריטים לעזוב את הודו במיידית; נהרו, אף על פי שלא שש להקשות על המאמץ של מפלגתו עבור המאמץ המלחמתי, העריך כי לא הייתה לו ברירה אלא להצטרף לגנדי. בעקבות תנועת "צאו מהודו" שהתקבלה על ידי מפלגת הקונגרס בבומביי (כיום מומבאי) ב-8 באוגוסט 1942, נעצרה ונכלאה כל ועדת העבודה של הקונגרס, כולל גנדי ונהרו. נהרו יצא מתוך מעצרו התשיעי והאחרון רק ב-15 ביוני 1945.
חלוקה ועצמאות 1945–1947.
לקראת סיומה של מלחמת העולם השנייה, נהרו שוחרר ושב להנהגת מפלגת הקונגרס. בבחירות המחוזיות שנערכו ב-1946 השיגה מפלגת הקונגרס רוב של 923 מושבים. לעומתה, הליגה המוסלמית השיגה 425 מושבים וסבסדה את מרכזי התמיכה בה במחוזות המוסלמים בפנג'אב, סינד ובנגל. בעקבות הבחירות הונהגה קואליציה וממשלה זמנית בת 15 חברים בין הקונגרס והליגה המוסלמית. בעוד המשנה למלך ארצ'יבלד וייוול מנחה את המהלכים הפוליטיים, נהרו התמנה למנהיג בפועל של הממשלה במסגרת תפקידו כסגן הנשיא של המועצה המבצעת. הבחירות נעשו כשלב מקדים בהעברת הסמכויות מידי הבריטים לידי ההודים. עוד ב-1945, הבחירות הכלליות בבריטניה הובילו לניצחון מפלגת הלייבור בראשות קלמנט אטלי, שהצהיר כי יקדם עצמאות הודית מיד עם בחירתו.
ניסיון אחרון של המשנה למלך, לורד וייוול, להפגיש את מפלגת הקונגרס והליגה המוסלמית להביא להסדר פוליטי נכשל. השאלה כבר לא הייתה האם הודו תהיה עצמאית אלא האם היא אמורה להיות מורכבת ממדינה עצמאית אחת או יותר. אנטגוניזם הינדי-מוסלמי, שהגיע לשיאו בסוף 1946 בעימותים שהובילו למותם של כ-7,000 בני אדם, הפך את חלוקת תת-היבשת לבלתי נמנעת. בעוד גנדי סירב לקבל את זה, נהרו הסכים באי רצון אך מתוך ריאליזם. על אף היות המפלגות יחדיו בתוך הקואליציה, שתיהן הסכימו כי יש להביא לחלוקת הודו על קווים דתיים בין הינדים ומוסלמים. בפברואר 1947 ראש הממשלה אטלי מינה את לואי מאונטבאטן להחליף את וייוול בפקיד המשנה למלך ולהיות האחראי על חלוקת הודו.
יריבו היחיד של נהרו לירושת גנדי בקונגרס היה סרדר ואלאבאי פאטל. הוא היה ליברלי בעמדותיו ונטה לעבר המרכז הפוליטי ביחס לנהרו, והיה פופולרי בקונגרס – תשע מתוך חמש עשרה מועצות מחוזיות הצביעו עבור פאטל בפעם היחידה שהוא התמודד כנגד נהרו – אך היה חלש ממנו בבחירה כלליות. גנדי עצמו העדיף את נהרו אף על פי שמבחינה אידאולוגית היה קרוב יותר לפאטל. ב-15 באוגוסט 1947, הודו ופקיסטן הופיעו כשתי מדינות עצמאיות נפרדות. נהרו הפך לראש הממשלה הראשון של הודו העצמאית. לתקופת ביניים, הודו ופקיסטן היו דומיניונים של האימפריה הבריטית טרם השיגו ריבונות כוללת ורשמית. הודו נפטרה ממעמד הדומיניון ב-1950 ופקיסטן ב-1952.
ראש ממשלה (1947–1964).
חוקה, אינטגרציה ורצח גנדי.
נהרו הושבע לכהונת ראש הממשלה ב-15 באוגוסט 1947, עת הודו הוקמה ושירת בתפקיד זה במשך 17 שנים, עד מותו בשנת 1964. בנאום השבעתו העביר נאום לעם באנגלית ושמו "פגישה עם הגורל" שבהמשך צוטט פעמים רבות והוגדר כנאום מוצלח ביותר.
ב-30 בינואר 1948, הודו כולה הוכתה בשוק כאשר לאומן הידני שהתנגד לחלוקת הודו רצח את גנדי. בעקבות הרצח העביר נהרו נאום לאומה ההודית שנחשב לימים לאחר מהנאומים הגדולים ביותר בהיסטוריה של הרטוריקה. "חברים ושותפים, האור נדף מחיינו, ויש חושך בכל מקום, ואני לא כל כך יודע מה להגיד לכם ואיך להגיד את זה. המנהיג האהוב שלנו, 'באפו' כפי שכינינו אותו, אבי האומה, אינו עוד. אולי אני טועה באומרי זאת; אף על פי כן, לא נראה אותו שוב, כפי שראינו אותו במשך שנים רבות, לא נרוץ אליו לבקש עצה ולא נבקש ממנו נחמה, וזו מכה איומה, לא רק עבורי אלא עבור מיליונים על מיליונים במדינה הזאת."
אם כי נהרו הביע חוסר אהדה לכוח מזוין, בזמן ממשלו שר הפנים הריכוזי, סרדר פאטל (שכיהן גם כסגן ראש הממשלה עד לביטול המשרה ב-1950), השתמש בצבאה של הודו על מנת לתפוס את הטריטוריות של היידראבד בספטמבר 1948. היידראבד הייתה בעלת רוב אוכלוסין הינדי אך הונהגה בידי ריבון מוסלמי, ניזאם אוסמאן עלי ח'אן, שניסה להביא לכך שהיידראבד בראשותו תישאר נבדלת מהודו ומפקיסטן בתור מדינה ריבונית בפני עצמה.
בדצמבר 1946, ערב קבלת העצמאות ההודית, כונסה האספה המכוננת של הודו, שתפקידה העיקרי היה לגבש חוקה למדינה החדשה. האספה הטילה את המשימה על ועדת הניסוח, שבהימרו רמג'י אמבדקאר (משפטן, כלכלן ומנהיג פוליטי) מונה לעמוד בראשה. אמבדקאר נחשב למי שהשפיע ביותר על עיצוב החוקה ועקרונותיה ולמנסחה המרכזי. מהלך כתיבתה של החוקה נמשך שלוש שנים. הוא החל בדצמבר 1946, שבעה חודשים לפני הפיכתה של הודו למדינה עצמאית, והסתיים בינואר 1950, עם כניסתה של החוקה לתוקף וחתימתו של נהרו על החוקה. האספה המכוננת מנתה יותר מ-300 נציגים שפעלו במסגרת של 15 ועדות שונות, שבכל אחת נדונו סעיפים שונים של החוקה. ועדת הניסוח, ובראשה אמבדקאר, איחדה בין הסעיפים השונים, ולעיתים שינתה את הנוסחים שנוצרו במסגרת הוועדות.