זמן קצר לפני מלחמת העצמאות סיים טל קורס מ"מים של ההגנה ומונה למפקד מחלקת נשק כבד במטכ"ל. כמומחה למכונות ירייה כבדות שימש טל במלחמת העצמאות מדריך נשק כבד וכמפקד יחידות מקלעים שצורפו לחטיבות השונות. החשובה בהן הייתה בצירופו כמפקד יחידת נשק מסייע לפעולת פיצוץ מתחם בית החרושת לקרח ביאזור (אזור של היום), בו התבצרה יחידת לוחמי חסן סלאמה, אשר באה בתגובה להרג שבעת הנוטרים במקום. בפעולה זו של אנשי הגדוד החמישי של הפלמ"ח, בפיקודו של נחום אריאלי, עשתה ההגנה פעם ראשונה שימוש בנשק זה. בין היתר, נטל טל חלק במבצע נחשון כמפקד מחלקה בגבעתי, בחטיבת עודד כמפקד פלוגה מסייעת, בחטיבה 7 בקרבות עשרת הימים ובמבצעי חורב ועובדה.
בשנים 1949 עד 1951 שירת כמפקד גדוד 54 בחטיבת גבעתי, אחר כך כיהן כמפקד בית הספר ללוחמת חי"ר (בה"ד 3). ב-1952 התמנה לראש מטה פיקוד ההדרכה במטכ"ל, ואחר כך שירת כראש מחלקת אימונים באגף ההדרכה. לאחר שובו מלימודים בבית ספר לקצינים בכירים באנגליה, מונה בינואר 1955 למפקד בית הספר לקצינים, ובמקביל מונה למפקד חטיבה 14 שהייתה אז חטיבת חי"ר במילואים. במלחמת סיני החליף את מפקד חטיבה 10, שמואל גודר, שהודח. לאחר המלחמה עבר הסבה לשריון, והתמנה לסגן מפקד גייסות השריון. ניסיונו משירותו בבריגדה על נושא ברן, שכלל טכניקות ותרגולות, והתמחותו בנושאי נשק ובליסטיקה סייעו לו בהשתלבות מהירה בחיל החדש. באפריל 1959 מונה למפקד חטיבה 7, שהייתה חטיבת השריון הסדירה היחידה וכל הניסיונות בגיבוש תורת הלחימה של השריון נעשו בה. בשנים 1957–1961, תחת פיקודו של חיים בר-לב כמפקד הגיס ושל חיים לסקוב (מפקד גייסות השריון לשעבר) כרמטכ"ל, ניתנה עדיפות לקידום השריון בצה"ל וגובשה תורת השריון הצה"לית, לאחר שהופקו לקחי "מבצע קדש".
בראשית 1961 מונה לעוזר ראש אג"ם (תחת יצחק רבין), והיה מועמד יחד עם דוד אלעזר למפקד גייסות השריון. השניים היו ידידים, אך גם התמודדו זה מול זה לאורך כל הקריירה הצבאית שלהם על תפקידים. העדפתו של אלעזר לתפקיד הביאה את טל ליציאה ללימודים. טל למד באוניברסיטה העברית והשלים תואר ראשון בפילוסופיה ובמדע המדינה. בתום לימודיו נתמנה לראש מטה פיקוד הצפון וחזר לתפקיד סגן מפקד גייסות השריון.
מפקד גיסות השריון.
בתחילת נובמבר 1964 החליף טל את דוד אלעזר כמפקד גייסות השריון, לאחר שהיה סגנו בששת החודשים שקדמו למינוי. באוקטובר 1965 קודם לדרגת אלוף. בתקופתו כמפקד גייסות השריון הושם דגש על רמת התותחנות בטנקים. יצחק רבין תיאר זאת כך: דגש מיוחד ניתן באותן שנים להתמקצעות הצוותים בנושאי תפעול, ירי ותחזוקה בדרך של הצמדת השריונאים לסוג טנק מסוים ולתפקיד קבוע בטנק לאורך כל שירותם והכשרתם הספציפית לטנק ולתפקיד. טל קידם את אמונתו שניתן להשיג דיוק גם בירי לטווחים ארוכים ואף בירי באש עקיפה לטווחים של עד 10 קילומטרים, כפי שנעשה בקרב על מקורות הירדן.
לפי דעה אחרת, לא הושג דיוק כזה בירי לטווחים ארוכים בקרב על מקורות הירדן: "העבודות התנהלו הפעם במרחק 6 ק"מ מהגבול... במשך פחות מ-10 דקות ירה טל 40 פגזים והשמיד שניים משלושת הטרקטורים".
מלחמת ששת הימים.
במלחמת ששת הימים פיקד טל על אוגדה 84, שעליה הוטל המאמץ העיקרי של צה"ל בגזרת פיקוד הדרום. כמִפקדת האוגדה שימשה מפקדת גייסות השריון, והכוח כלל את חטיבות השריון 7 ו-60 (בפיקוד שמואל גונן ומנחם אבירם בהתאמה), חטיבת הצנחנים (בפיקוד רפאל איתן), כוח סיור אוגדתי (בפיקוד ישראל גרנית), אגד ארטילרי (בפיקוד צבי נשר), אגד תחזוקה (בפיקוד יעקב בר) וגדוד הנדסה. לרשות האוגדה עמדו 300 טנקים, מהחדישים שהיו ברשות צה"ל. מטרת האוגדה הייתה השתלטות על חלקה הדרומי של רצועת עזה וכיבוש פתחת רפיח ואל עריש. על הגישה שהנחתה את מפקדת האוגדה בזמן הלחימה אמר טל לאחר הקרבות:
לאחר שהבקיעה את המערך המצרי באזור רפיח, התפצלה האוגדה לציר הצפוני (אל עריש–קנטרה) ולציר המרכזי (ג'בל ליבני–אסמאעיליה), ותוך שלושה ימים נוספים, שכללו קרבות שריון עם יחידות מצריות, הגיעה לגדות תעלת סואץ.
לאחר המלחמה יצא לאור ספרו של שבתי טבת, "חשופים בצריח", שעסק בחלקו המרכזי בלחימתה של אוגדה 84 ברפיח ובסיני, תוך התמקדות בלחימתה של חטיבה 7. ספר זה, יחד עם ספרים אחרים ואלבומי ניצחון שיצאו לאור אחרי מלחמת ששת הימים, תרמו רבות ליצירת מיתוס "השריון הבלתי מנוצח" ולהעלאתם של מפקדי צה"ל במלחמה, וישראל טל ביניהם, לדרגת גיבורים לאומיים ששמם שגור בפי כל, כפי שהדבר בא לידי ביטוי בשיר "קרב רפיח" ובדיאלוג מהסרט גבעת חלפון אינה עונה.
ב-21 במרץ 1968, נערך מבצע תופת כנגד הכפר הירדני כראמה שבדרום בקעת הירדן. היעד היה מפקדת הפת"ח והעומד בראשה, יאסר ערפאת. המבצע הסתבך ואלוף טל נקרא להחליף את מפקד הפעולה, אלוף נרקיס, ולחלץ הישג מן ההסתבכות הקשה.
פיתוח אמצעי לחימה.
ב-1969, לאחר שסיים את כהונתו כמפקד גייסות השריון, עבר טל לתפקיד במערכת הביטחון, והחל לקדם את פרויקט טנק המרכבה. בשנים שלאחר מכן היו מי שמתחו על טל ביקורת כי בתפקידיו הבאים בצבא ראה בקידום מערכות נשק מייצור עצמי, ובפרט טנק המרכבה, כחזות הכול, והעדיף להקצות משאבים כספיים, שהיו במחסור, לכיוון זה, במקום להצטיידות במערכות נשק ובחלפים חלופיים.
אילולא הקצאת הכספים לפרויקט המרכבה, היו עומדים לרשות צה"ל טנקים רבים יותר בעת מלחמת יום כיפור: "במסגרת הצמצומים הללו נדחתה בשנת 1972 הצעה של אלוף עמוס חורב, ראש אגף האפסנאות (אג"א), לרכוש עוד מאות טנקים משומשים צנטוריון במחיר נמוך, כדי להגדיל את צי הטנקים של צה"ל וכדי שישמשו לחלפים. במקום זאת, נקבע להגביר את המאמץ לפיתוח הטנק מרכבה...
מגבלות התקציב לא היו המניע הבלעדי לקיצוץ. שיקולים של תורת לחימה ושל הערכות מודיעין הביאו לנכונות לוותר, לפחות זמנית, על אמצעי-לחימה מסוימים."
טנקי המרכבה הראשונים נכנסו לשירות בחיל השריון במחצית 1979, והשתתפו ב-1982 במבצע שלום הגליל. בעקבות המבצע הוחלט על המשך פיתוח סדרת המרכבה.
ביחד עם אריאל שרון היה טל מהמתנגדים לקו בר-לב.
גשר הגלילים, שפיתחו טל ודוד לסקוב ושעבורו קיבלו את פרס ביטחון ישראל, היה אמור להיות אמצעי צליחה עיקרי של תעלת סואץ במלחמה עתידית עם מצרים, באפשרו צליחת סער של התעלה. קרב החווה הסינית, שהתחולל במשך שלושה ימים בגִזרה המרכזית של חזית תעלת סואץ, ושבו נהרגו למעלה מ-200 לוחמים ישראלים, נועד לפתוח את "ציר טרטור" להובלת הגשר. בסופו של דבר הגיע הגשר לתעלה רק ב-19 באוקטובר, חמישה ימים אחרי שאוגדת אריאל שרון צלחה את תעלת סואץ.
במקביל שימש במינוי חירום מפקד עוצבת עמוד האש.
מלחמת יום הכיפורים.
ב-1972, בעקבות מינויו של אלעזר לרמטכ"ל, שב טל לשירות פעיל ומונה לראש אג"ם. במאי 1973, בעת שצה"ל עמד ב"כוננות כחול לבן" לקראת מתקפה מצרית שלא התממשה (והתממשה חמישה חודשים אחרי כן במלחמת יום הכיפורים), התנגד טל למכה מקדימה ולכניסה למלחמה כוללת, וטען כי אלו פוגעות במטרה הלאומית העליונה, שהיא, לטענתו, "המאבק על גבולות המדינה". גם במקרה של מלחמה כוללת, המליץ לצמצם את הפעילות ההתקפית. באוגוסט 1973, כדי למנוע את פרישתו, הוצע לטל לקבל את תפקיד סגן הרמטכ"ל; ובתפקיד זה כיהן במלחמת יום הכיפורים. לטענת טל, הוא התנגד לעמדת הרמטכ"ל אלעזר בדיון מכריע שהתקיים ב-30 בספטמבר 1973, נוכח ההכנות הסוריות למתקפה. לטענתו, הוא דרש לגייס אוגדות ולהעלותן לרמת הגולן, ולאחר שעמדתו נדחתה הוא אף נפגש עם ראש אמ"ן אלי זעירא ודרש ממנו לבטל את גישת "הסבירות הנמוכה", שבעקבותיה, כך סבר, קיבל אלעזר החלטה שגויה. במהלך המלחמה נפצע פעמיים בנו יאיר ששירת כשריונאי ועוטר בעיטור המופת.
לאחר מלחמת יום הכיפורים.
בתום המלחמה, התמנה טל למפקד פיקוד הדרום במקום שמואל גונן. בשבועות הראשונים שלאחר מינויו התקיימו השיחות ב"קילומטר ה-101" בנוגע להפרדת הכוחות עם מצרים, כשבמקביל התרחשו בחזית המצרית תקריות אש עם צה"ל. טל סירב למלא אחר הוראת הרמטכ"ל דוד אלעזר ושר הביטחון משה דיין לחדש את הלחימה בקו הפסקת-האש עם מצרים. הסיבה לכך הייתה תביעתו לקבל אישור להוראה מראשת הממשלה גולדה מאיר ומבית-המשפט העליון. דיין ויתר לבסוף על מימוש ההוראה לאחר ויכוח, אך בכך אפסו סיכוייו של טל להתמנות לרמטכ"ל לאחר התפטרות אלעזר, לפי המלצת ועדת אגרנט, באפריל 1974. הוא פרש מהשירות הצבאי ב-21.3.1974.
עם פרישתו מצה"ל הצטרף לסגל האקדמי של אוניברסיטת תל אביב. ביולי 1974 מונה על ידי שר הביטחון, שמעון פרס, לאחראי לפיתוח וייצור פרויקטים קרביים במשרד הביטחון.
טל תמך בארגון מחדש של צה"ל והקמת המפח"ש, בניגוד לעמדתו של הרמטכ"ל, מוטה גור. ב-1977, אחרי המהפך, מונה טל על ידי שר הביטחון, עזר ויצמן שתמך בהקמת המפח"ש, לחקור את תפקוד וארגון כוחות היבשה בצה"ל, ובמסגרת זו המליץ על הקמת המפח"ש (שהפכה במרוצת השנים לזרוע היבשה). מסקנותיו נגנזו על ידי הרמטכ"ל גור שהתנגד להן, ולבסוף נדחו על ידי רפול שהחליף את גור כרמטכ"ל. ב-29 בנובמבר 1979 החליט המטכ"ל, בעקבות לחץ של עזר ויצמן, להקים את המפח"ש ולהחזיר את טל לשירות כדי להקים את המפח"ש ולעמוד בראשו. טל חזר לשירות קבע למרות מחאות של מוטה גור אולם כשלבסוף הוקם המפח"ש ב-1983, לא היה זה על פי מתווהו של טל.
עד פרישתו במאי 1989, המשיך טל לכהן כעוזר שר הביטחון לעניינים מיוחדים ולפיתוח וייצור טנק המרכבה וכלי רק"ם.
בשנת 1999 נפגע טל מאירוע מוחי, לאחר ויכוח על מלחמת יום-הכיפורים עם האלוף דורון אלמוג. לאחר תהליך שיקום חזר במידה חלקית לאיתנו.