Због његове улоге у Каргилском рату Индија му није веровала. Група милитаната је 13. децембра 2001. напала индијски парламент. Индија је за напад оптужила Пакистан, а Мушараф је негирао било какво пакистанско мешање. Тада је дошло до снажног притиска САД, па су према Вашингтон посту, добили обећање од Мушарафа да ће Пакистан престати да логистички помаже милитанте да нападају Индију и Кашмир. Мушараф је 12. јануара 2002. оштро осудио исламски екстремизам, као и сва дела тероризма, укључујући и она учињена у име ослобађање Кашмира од Индије. Од средине 2004. Мушараф је започео серију разговора са Индијом о кашмирском проблему.