ב-1947 התגייס ח'אן לצבא פקיסטן. באותה עת הוא נשא דרגת מייג'ור. באותה שנה הוא היה פעיל במניעת האפשרות לקצינים הודים לקחת ספרים מהספרייה המפורסמת של הקולג' להכשרת סגל של צבא הודו הבריטית (כיום המכללה לפיקוד ולמטה של צבא פקיסטן) בכוויתה, שם הוא היה המדריך המוסלמי היחיד. ב-1951, בגיל 34 הוא קודם לדרגת בריגדיר גנרל ועד היום הוא הקצין הצעיר ביותר בהיסטוריה של הכוחות המזוינים של פקיסטן שהוענקה לו דרגה זו. בהמשך הגיעו לדרגה זו ארבעה מחבריו לקורס הקצינים בני גילו. הוא מונה כמפקד של הבריגדה העצמאית ה-105 שהוצבה באזור קו השליטה בג'אמו וקשמיר בשנים 1951 – 1952. הוא תואר כאלכוהוליסט שחיבב נשים ויין, אף על פי שהוא היה קצין מקצועי וזכה לשבחים. בהמשך, כסגן ראש המטה הכללי הוא נבחר לעמוד בראש מועצת התכנון של הצבא שהוקמה על ידי איוב ח'אן לבצע תהליכי מודרניזציה בצבא פקיסטן בשנים 1954 – 1957. בין השנים 1958 – 1962 הוא גם מילא את מקומו של ראש המטה הכללי ובשנים 1962 – 1965 הוא פיקד על דיוויזיית חיל רגלים. ח'אן היה גם שותף להקמתה של המכללה לפיקוד ולמטה של צבא פקיסטן בכוויתה. הוא מילא תפקיד מרכזי בתמיכה במערכת הבחירות לנשיאות פקיסטן של איוב ח'אן ב-1965 מול פטימה ג'ינה, אחותו של מוחמד עלי ג'ינה. כאות הערכה לפועלו הוא קודם לדרגת מייג'ור גנרל ומונה לפקד על דיוויזיית הרגלים השביעית של צבא פקיסטן, שעליה הוא פיקד במהלך מלחמת הודו-פקיסטן השנייה ב-1965. בתפקידו זה הוא לא לקח חלק מרכזי בתכנון ובביצוע של מבצע החדירה "המהלומה הגדולה", שכשלה עקב החלטתו לשנות את החלטות הפיקוד העליון, ובשל כך חצה צבא הודו את הגבול בין שתי המדינות.
על אף כישלונותיו, קודם ח'אן ב-1966 לדרגת לוטננט גנרל על פי החלטה אישית של הנשיא איוב ח'אן ומונה כסגן מפקד הצבא. במרץ אותה שנה הוא מונה כמפקד העליון של צבא פקיסטן והחל למלא את התפקיד ביוני. עם כניסתו לתפקיד הדיח שניים מהקצינים שהיו קודם לכן בדרג פיקודי מעליו: לוטננט גנרל אלטאף קדיר ולוטננט גנרל בחיטאר ראנה.
ח'אן הגיע לתפקידו זה בגיל 49, הצעיר ביותר בהיסטוריה הצבאית של פקיסטן שמונה לתפקיד. הוא החל לבצע במלוא כוחו תהליך ארגון מחדש של הצבא. לאחר מלחמת 1965 בוצעו בצבא שינויים ארגוניים וטכניים משמעותיים. עד המלחמה הייתה מקובלת הסברה שהדיוויזיות יכולות לתפקד באופן יעיל תוך קבלת פקודות ישירות ממטה הצבא. רעיון זה כשל במלחמה והצורך להקים מפקדות של הגיסות שתתווכנה בין מפקדת הצבא לבין הדיוויזיות שלחמו בחזית הוכר כצורך המבצעי הנחוץ ביותר לאחר המלחמה. במהלך המלחמה הייתה בצבא פקיסטן רק מפקדת גיס פעילה אחת, מפקדת הגיס הראשון.
זמן קצר לאחר פרוץ המלחמה הטילה ארצות הברית אמברגו על משלוחי נשק הן להודו והן לפקיסטן. אמברגו זה לא השפיע על צבא הודו, אך הוא השפיע באופן משמעותי על היכולות הטכניות של צבא פקיסטן. מזכיר המדינה של ארצות הברית, דין ראסק, סיכם זאת באומרו: "אם אתם יוצאים למלחמה, הלחמו, אך אנו לא מתכוונים לשלם על כך".
בשלב זה פנתה פקיסטן לסין לסיוע צבאי וטנקי Type 59 החלו למלא את מקומם של טנקי ה- M47 פטון האמריקאים החל מ-1966 בתור טנקי המערכה המרכזיים של צבא פקיסטן. בשנתיים הראשונות שלאחר המלחמה נשלחו לפקיסטן 80 טנקים מדגם זה שהיה גרסה של טנקי ה- T-55/54 הרוסיים. המשלוח הראשון הוצג במצעד של הכוחות המזוינים של פקיסטן שנערך ב-23 במרץ 1966. מלחמת 1965 הוכיחה שהיחס בין שריון לרגלים בצבא פקיסטן היה בלתי מאוזן והיה צורך לחזק את חיל הרגלים. שלוש דיוויזיות רגלים (ה-9, ה-16 וה-17) צוידו באופן נרחב בציוד סיני ובראשית 1968 הן כבר כונו "הדיוויזיות הסיניות". בנוסף, הוקמו שתי מפקדות גיס, הגיס השני והגיס הרביעי.
נשיא פקיסטן.
איוב ח'אן היה נשיאה של פקיסטן במשך רוב שנות ה-60 של המאה ה-20, אך לקראת סוף העשור החל להתעורר חוסר שביעות רצון ממנו בציבור הפקיסטני. פקיסטן שקעה אל חוסר יציבות ואיוב ח'אן העביר את השלטון לידיו של יחיא ח'אן, שהטיל מיד משטר צבאי על המדינה. כאשר קיבל יחיא ח'אן את השלטון ב-25 במרץ 1969, הוא ירש בעיה חוקתית שהתמשכה כבר על פני שני עשורים של יריבות בין-מחוזית בין מערב פקיסטן שנשלטה על ידי פנג'אבים-פתאנים-מוהג'ירים לבין מזרח פקיסטן שרוב האוכלוסייה בה היה בנגלי. בנוסף, ירש ח'אן בעיה בת 11 שנים של שליטה של אדם אחד שמשל במדינה שביסודה הייתה מדינה דמוקרטית, בעיה שהייתה הבסיס האידאולוגי לתנועת המחאה נגד איוב ח'אן בשנים 1968 – 1969. כמפקד הצבא ניחן יחיא ח'אן בכל היכולות, הכישורים והפוטנציאל הנדרשים לתפקיד, אך הוא ירש בעיה מורכבת מאוד ונאלץ לבצע מספר תפקידים: ראש המדינה, מנסח החוקה הזמנית, פתרון שאלת "היחידה האחת" והרגעת התסכולים ותחושות הניצול והאפליה שנוצרו בפקיסטן המזרחית בעקבות סדרה של צעדים של הממשלה מאז 1948. כל אלו היו בעיות מורכבות ושורשי ההשפלה שבתבוסתו של צבא פקיסטן בדצמבר 1971 נבעו מהעובדה שח'אן נכנס שלא ביודעין למשימה כפוית הטובה של פתרון הבעיות של המערכת הפוליטית והמנהלית של פקיסטן שהצטברו במשך עשרים שנה וששורשיהם היו נעוצים עוד במדיניות של הבריטים כלפי הבנגלים לפני 1947.
איש מדע המדינה האמריקאי, לורנס זירינג, ציין:
מרגע שנכנס לתפקידו במרץ 1969, ניסה ח'אן לפתור את הבעיות החוקתיות ואת היריבות הבין-מחוזית של פקיסטן. כל הצעדים שהוא נקט, אף על פי שהיו נכונים בעקרון, הגיעו מאוחר מדי ורק הגבירו את הקיטוב הפוליטי בין המערב למזרח. בין הצעדים שננקטו לשם כך על ידי ח'אן, היו נטישת גישת "היחידה האחת" והחזרת המחוזות שהתקיימו במערב פקיסטן לפני 1955. צעד נוסף של ח'אן היה הבטחת קיום בחירות חופשיות, ישירות, יחסיות והוגנות, זכות אדם בסיסית שנמנעה מהעם הפקיסטני מאז הבחירות שנערכו עוד ב-1946, טרם קבלת העצמאות, בשל חוסר יעילות פוליטית, משחק כפול ותככים של ממשלות אזרחיות מ-1947 ועד 1958 ושל שלטון היחיד של איוב ח'אן מ-1958 ועד 1959.
נטישת רעיון "היחידה האחת" לא הובילה לתוצאות חיוביות שהיו מגיעות לו צעד זה היה ננקט קודם לכן. ח'אן עשה גם ניסיון לפייס את אנשי המזרח על ידי ביטול עיקרון השוויון, מתוך תקווה שפלח גדול יותר באספה המחוקקת יפייס את גאוותם האתנית האזורית ויבטיח את שלמותה של פקיסטן. במקום לספק את הבנגלים, הגבירו צעדים אלו את רצונם להיפרד, שכן הם חשו שהמערב דיכא אותם מבחינה פוליטית מאז 1958. כך התגברו הרגשות האנטי-מערביים במזרח. במהלך שנת 1968 החליש הלחץ הפוליטי מצדו של זולפיקר עלי בהוטו את הנשיא איוב ח'אן שעוד קודם לכן פיטר את בהוטו מתפקידו כשר החוץ על רקע אי ההסכמה בין השניים על "הצהרת טשקנט" שבחסותה של ברית המועצות שמה קץ לפעולות האיבה בין הודו לבין פקיסטן. כדי להקל על המצב, ניסה הנשיא איוב ח'אן להגיע להסכמות עם מפלגת העם הפקיסטנית ועם ליגת אוואמי, אך ללא הצלחה. כשבריאותו הייתה ירודה, ביטל איוב ח'אן את החוקה שהוא עצמו כונן והתפטר באופן פתאומי מהנשיאות.
ב-24 במרץ 1969 העביר הנשיא איוב ח'אן מכתב לגנרל יחיא ח'אן והזמינו לדון במצב, שכן זה היה "מעבר ליכולת של ממשלה אזרחית להתמודד עם... המצב המורכב". יומיים לאחר מכן הופיע הגנרל יחיא ח'אן בתחנת הטלוויזיה הממלכתית של פקיסטן והכריז על הטלת משטר צבאי בכל רחבי המדינה. חוקת 1962 בוטלה, הפרלמנט פוזר ופקידי הממשל האזרחי של הנשיא איוב ח'אן פוטרו. בנאום הראשון שנשא בפני האומה, ציין ח'אן: "לא אסבול אי-סדר. כל אחד יישאר בתפקידו". באותו יום הוא הקים ממשלה צבאית שהוא עמד בראשה והיה גם האחראי על תחומי המידע, המשפטים, החוץ וההגנה. את הגנרל עבדול חמיד ח'אן הוא מינה כשר הפנים והאחראי על ענייני קשמיר, את תת-אדמירל סייד מוחמד אהסן כשר האוצר, התכנון, הסטטיסטיקה, המסחר והתעשייה ואת מרשל האוויר נור ח'אן כשר התקשורת, הבריאות, העבודה, המדע והטכנולוגיה.
המועצה לביטחון לאומי וצו המסגרת המשפטית.
הנשיא יחיא ח'אן היה מודע למצב העדין בפקיסטן והחליט לבצע שינויים. יוזמותיו הראשונות כוונו לטובת ייסוד "המועצה לביטחון לאומי" שלתפקיד מזכירה הראשון מונה מייג'ור גנרל גהולם עומר. תפקידה של המועצה היה לנתח ולהכין הערכות בנוגע לנושאים הקשורים לפוליטיקה ולביטחון הלאומי.
בנוסף, פרסם ח'אן ב-1969 את "צו המסגרת המשפטית" (Legal Framework Order) שביטל את תוכנית "היחידה האחת" שעל פיה נוצרה הישות המנהלית "מערב פקיסטן". צו המסגרת המשפטית הסירה את הקידומת "מערב" והותיר את השם "פקיסטן". לצו לא הייתה השפעה על מזרח פקיסטן. לאחר מכן הכריז ח'אן שב-1970 יערכו בחירות ארציות ומינה את השופט אבדוס סאטר כמפקח הראשי של ועדת הבחירות.
סופה של מזרח פקיסטן.
הבחירות הכלליות של 1970.