I 1950 forhandlet en avtale med Jawaharlal Nehru om minoritetenes stilling, spenningen avtok noe og flyktningestrømmen ble mindre. I 1951 ble de ny uro og Nehru og Khan utvekslet skarpe diplomatiske noter mens hærene sto oppmarsjert ved grensen. Drapet på Khan forverret den vanskelige politiske situasjonen i Pakistan. Han ble myrdet den 16. oktober 1951 av en afghaner under et politisk møte i Rawalpindi. Kisten ble fraktet til Karachi der en halv million mennesker var samlet under begravelsen. Kisten satt inn i Mazar-e-Quaid, det nasjonale gravmonumentet der Jinnah og hans søster Fatima Jinnah er gravlagt. Det var ingen arvtaker etter Khan av samme kaliber og All India Muslim League (Den muslimske liga), landets dominerende parti, ble preget av maktkamp og oppløsning. Daværende generalguvernør Khawaja Nazimuddin ble statsminister etter Khan.