Kayani ble forfremmet til generalløytnant i september 2003, og fikk kommandoen over X Corps i Rawalpindi, som erstatter for generalløytnant Syed Arif Hasan. Forfremmelsen indikerte Musharrafs store tiltro til Kayani, siden en hærsjef ikke kan lage et militærkupp uten hjelp fra kommandanten til X Corps, da Rawalpindi er tvillingbyen til Pakistans hovedstad, Islamabad. Kayani ledet korpset frem til oktober 2004, da han ble overført til etterretningstjeneste ISI som leder, og ble erstattet av generalløytnant Salahuddin Satti.