В 1961 году окончил с отличием Пакистанскую военную академию в городе Какул. Служил во время Второй индо-пакистанской войны в составе бронетанкового подразделения пакистанской армии. Дослужился до звания генерала, занимал должность командующего сухопутными войсками (1996—1998) и (1997—1998). После увольнения с военной службы Джехангир Карамат занимал должность посла Пакистана в Соединённых Штатах Америки (с 17 ноября 2004 по 3 июня 2006 года).