દેશનાં ૫૬૦ નાનાં-મોટાં રજવાડાંને તેમણે વિલીન કરીને એક અખંડ હિન્દુસ્તાનની કલ્પના કરી હતી, પરંતુ જમ્મુ-કાશ્મીરના મુદ્દે વધુ પડતા સંવેદનશીલ એવા પંડિત જવાહરલાલ નેહરુએ સરદારને કાશ્મીરના મુદ્દે કડક પગલાં લેતાં રોક્યા હતા.