જ્યારે સપ્ટેમ્બર ૧૯૪૭માં પાકિસ્તાને કાશ્મીર ઉપર હુમલો કર્યો ત્યારે સરદારને તુરંતજ ત્યાં સેના મોકલાવી હતી. પણ નેહરુ તેમજ માઉન્ટબેટન સાથે સહમત થઈને તેમણે કાશ્મિરના રાજાએ ભારતમાં વિલણીકરણ સ્વીકાર્યું ત્યાં સુધી રાહ જોઈ હતી. ત્યાર બાદ સરદારની દેખરેખ હેઠળ ભારતીય સેનાનીએ શ્રીનગર, બારમુલા પાસ તેમજ બીજો ઘણો પ્રદેશ આક્રમણકારીઓ પાસેથી પાછો મેળવ્યો હતો. સરદારે રક્ષા મંત્રી બલદેવ સિંહ સાથે મળીને સેનાની આખી કામગીરીનું સંચાલન કર્યું હતું કે જેમા ભારતનાં વિભીન્ન ભાગોથી સેનાની ટુકડીઓને ત્વરિત કાશ્મિર પહોંચતી કરવી તેમજ શ્રીનગર અને પઠાણકોટને જોડતો સેનાના વપરાશ માટેનો રસ્તો ૬ મહીનામાં તૈયાર કરી આપવાનુ પણ સામેલ હતું. સરદારે નેહરુને કાશ્મિર મામલા માટે સંયુક્ત રાષ્ટ્ સંધમાં નહી જવાની ખુબ ભારે ભલામણ કરી હતી અને એ વાતનો આગ્રહ રાખ્યો હતો કે આક્રમણકારીઓને ટેકો આપીને પાકિસ્તાને ખોટું કર્યું હતું તેમજ કાશ્મિરના રાજાએ કરેલા ભારતમાં વિલિણિકરણના કરાર કાયદેસર અને માન્ય હતા. તેમને દ્વિપક્ષી બાબતમાં આંતરરાષ્ટ્રિય દખલગીરી નહોતી જોઈતી. તેઓ ભાગલા દરમ્યાન પાકિસ્તાને આપવાના ૫૫ કરોડ રુપિયાની અદાયગીની પણ વિરુદ્ધ હતા અને તેમનું માનવું હતું કે જો તે રકમ આપવામાં આવશે તો પાકિસ્તાન તેને કાશ્મિરમાં ભારત સામેની લડાઈમાંજ વાપરશે. પ્રધાનમંડળે પણ તેમનો મત સ્વીકાર્યો હતો પણ ગાંધીજીને ડર હતો કે તે રકમ ન આપવાથી આપસી વેર વધશે તેમજ વધુ કોમી રમખાણ થશે અને તેથી તેમણ આમરણ અનશન ઉપર ઉતરી તે રકમની ચુકવણી કરાવી હતી. પોતાની સલાહ તેમજ મંત્રીમંડળના નિર્ણયની જ્યારે ગાંધીજીએ અવગણના કરી ત્યારે સરદાર ગાંધીજીથી વિમુખ તો ન થયા પણ તેમને તે વાતનું ધણું દુ:ખ થયું હતું. .[૫૧]