ネルー政権は、国内の政治的統合にも力を入れた。政権発足時にまず問題となったのが、各地に残存する藩王国である。副首相であるヴァッラブバーイー・パテールの交渉によって領域内のほとんどの藩王国はインド併合を選んだものの、北端のジャンムー・カシュミール藩王国、グジャラートのジュナーガド藩王国、デカン地方のニザーム藩王国（ハイダラーバード藩王国）の3つの藩王国は併合を拒んでいた。このうち、まずジュナーガドは独立後すぐにインド軍が侵攻して併合された。ジャンムー・カシュミールの帰属はパキスタンとの激しい争奪戦となり、1947年に第一次印パ戦争が勃発した。1949年に停戦を迎えるものの、カシュミールはインドの支配するジャンムー・カシュミール州とパキスタンの支配するギルギット・バルティスターン州及びアーザード・カシミールに分割され、さらにその後もその帰属をめぐってカシミール紛争が継続することとなった。ニザームはその後も独立の姿勢を崩していなかったが、1948年9月のポロ作戦によってインド軍が侵攻し併合され、最後の藩王国が消滅してこの問題は解決した。