המבחן הבא של טנקי השרמן היה בקרב על תוניסיה, במהלכו נפגשו השרמנים לראשונה עם טנקי טיגר גרמנים חמושים בתותח 88 מ"מ שאמנם עלו על השרמנים כמעט בכל פרמטר, אולם מעט מאוד טיגרים נשלחו לשדה הקרב באפריקה. המפגשים הסתיימו באבדות כבדות לטנקים ולצוותים האמריקאים, ורק התפוררות החזית הגרמנית והעליונות המספרית של בנות הברית במספר טנקים בשדה הקרב ובשליטה אווירית הכריעו את הכף.
הזירה האירופית 1945-1943.
הזירה האירופית הייתה הזירה בה שימש טנק השרמן במספרים הגדולים ביותר. הופעותיו הראשונות של השרמן על אדמה אירופית היו במהלך "מבצע האסקי", שם הקוד שניתן לפלישת בעלות הברית לסיציליה, ומיד לאחר מכן בפלישת בעלות הברית לאיטליה. בזירות אלו לא נערכו קרבות שריון בקנה מידה דומה לקרבות בחזית המזרחית, והכוחות הגרמניים בחזית האיטלקית סבלו מכוח אדם ואספקה מצומצמים בגלל חשיבותה המשנית של הזירה. עם זאת, ככל שנמשכה המלחמה, החלו להופיע בזירה הדגמים הגרמניים החדשים - הפנתר ובמידה מועטה גם הטיגר, שהחלו להופיע בשדה הקרב במספרים הולכים וגדלים. ההחלטה האמריקנית לרכז כמעט את כל הייצור בשרמן ובגרסותיו המאוחרות המוסבות לתותח המשופר בן 76 מ"מ הייתה בבחינת הקרבת איכות למען כמות, והדבר גרם לכך, שהטנק הבסיסי של בעלות הברית המערביות לא השתווה ליריביו הגרמניים.
פלישת בעלות הברית לנורמנדיה ב־6 ביוני 1944 והקרבות שבאו בעקבותיה גרמה לזעזועים למפקדי השריון של בעלות הברית. הן אופי שדה הקרב והן איכות הטנקים הגרמניים וצוותיהם שניצבו נגד בנות הברית היו אימתניים יותר מהמצופה. במערכה בנורמנדי נמצאו אומנם הגרמנים בנחיתות מספרית גדולה מול כוחות השריון של בעלות הברית המערביות, אולם לגרמנים עמד היתרון בחימוש העדיף, לצד הקשיים שגרמה הלחימה באזור ה"בוקאז'" - לוח שחמט של שדות, סוללות עפר ומשוכות גבוהות וצפופות - לטנקים של בעלות הברית. כאמור, בעת הפלישה לנורמנדיה, כל השרמנים בשירות היו מצוידים בתותח 75 מ"מ, והמצב נמשך עד אוגוסט, אז החלו להישלח לצרפת שרמנים עם תותח 76 מ"מ במספרים קטנים.
בלחימה בצפון מערב אירופה, ה־M4 נאלץ להתמודד עם טנקים גרמניים שיכולותיהם המשופרות הן בעמידות לתותחו והן יכולתם לחדור את שריונו ממרחקים ניכרים העמידו את ה־M4 בעמדת נחיתות. מלבד הטיגר והפנתר, הופיע באותה עת בשדה הקרב דגם גרמני מתקדם יותר - הטיגר II בן 68 הטונות, שנשא תותח 88 מ"מ L/71 ובעל שריון צריח שעוביו 185 מ"מ. אף על פי שירש את ליקויי קודמו - בעיות מנוע וקשיי ניידות - היה הטיגר II יריב מעורר אימה לטנקי בעלות הברית, שידעו שכדי לחסל טיגר II אחד יהיה עליהם למחוק מהמצבה מספר שרמנים, בטרם תוכל שאריתו של הכוח התוקף לאגפו ולפגוע בשריון הצד שלו.
גרסה מיוחדת של השרמן בשירות הצבא הבריטי הידועה בשם פיירפליי (FireFly - גחלילית), הייתה היחידה שיכלה להשמיד את הטנקים הגרמניים - הטיגר וה'פנתר' - מטווחי קרב סבירים. בפיירפליי התקינו הבריטים תותח נגד־טנקי משופר בן 17 ליטראות בקוטר 76.2 מילימטר בצריח הרגיל, שגרם לצפיפות בצריח. תותח זה היה בעל כושר חדירה גבוה משל תותח 76 מ"מ האמריקאי המקביל, אך דיוקו היה פחות, ולפגזיו כושר חומר נפץ ירוד. מספר טנקי שרמן פיירפליי הופעלו לראשונה בפלישה לנורמנדי. הפיירפליי הוכיח עצמו כתכנון מוצלח, אך מחסור בתותחי 17 ליטראות הגביל את השימוש בו.
לאחר ההבקעה של כוחות בנות הברית מנורמנדי, והשמדתו של מרבית השריון הגרמני בכיס פאלז באוגוסט 1944, לא נתקלו בנות הברית בריכוזים גדולים של טנקים גרמנים עד המתקפה הגרמנית בארדנים שהחלה במחצית דצמבר 1944. במהלך קרב הארדנים החלה ביקורת רחבה כנגד המחסור בתותח אפקטיבי לטנקים האמריקניים, וסוגיה זו הפכה לשערורייה בארצות הברית בינואר 1945 בעקבות סדרת כתבות שפרסם הניו יורק טיימס. בראשית ינואר 1945 היו רק כרבע מכלל השרמנים ששירתו בצבא האמריקני במערב אירופה חמושים בתותח 76 מ"מ. הדגם הבסיסי של השרמן נותר נחות יחסית אל מול יריביו הגרמניים עד סיומה של המלחמה, אך נהנה מהיתרון המספרי ומהעובדה שפעילותו לא שובשה כמעט מהאוויר.
זירת האוקיינוס השקט.
זירת האוקיינוס השקט התאפיינה בעיקר בלוחמה ימית אינטנסיבית, ולוחמת הטנקים הייתה בעלת חשיבות נמוכה. מספרים נמוכים של טנקים הופעלו בלחימה, בעיקר בתפקידי סיוע, וזאת בגלל אופי זירת הלחימה, שהייתה בעיקרה ביערות גשם ובתנאים טרופיים. לחימת שריון בשריון הייתה מועטה, והשימוש העיקרי של השרמנים היה לספק אש מסייעת לרגלים ולנחתים, לוחמה נגד ביצורים, קיני מכונות ירייה ובונקרים. לשם כך הותקנו על טנקים רבים להביורים.
במפגשים בין טנקים יפנים לשרמנים הייתה ידם של הטנקים האמריקאים על העליונה בזכות השריון והחימוש העדיף. מגבלות התעשייה היפנית ואופי הלחימה באוקיינוס השקט הובילו את יפן לשים את מירב מאמציה בייצור מטוסים וספינות קרב, ופיתוחם של טנקים ותותחים אנטי־טנקיים צומצם מאוד מ־1942 ואילך. הטנק העיקרי של הצבא הקיסרי של יפן היה טיפוס 95, טנק קל עם מיגון דק ותותח 37 מ"מ, שנחשב למיושן עם תחילת המלחמה, ולא יכול היה להתמודד כנגד השרמן בתנאים שווים. בנוסף, חסרו הרגלים היפנים נשק נ"ט מספק כנגד השרמן; תותח הנגד טנקים העיקרי שלהם היה בקוטר 37 מ"מ בלבד, ולא היה ברשותם מטולי רקטות כמו הבזוקה האמריקנית.
טנקי השאל-החכר.
4,102 טנקי שרמן M4A2 הועברו לברית המועצות במהלך המלחמה כחלק מתוכנית השאל-החכר, חלקם עם תותח ה־75 מ"מ וחלקם עם תותחי 76 מ"מ. השרמן היה בשימוש נפוץ בצבא האדום בשנתה האחרונה של המלחמה, וכמה גייסות טנקים וגייסות ממוכנים צוידו כמעט בלעדית בשרמנים. כל השרמנים M4A2 היו בעלי מנוע דיזל, בדומה לטנק הסובייטי העיקרי T-34. חלק קטן מהשרמנים עם תותח 75 מ"מ הוסבו על ידי הסובייטים לנשיאת תותחו של טנק ה־T-34 בקוטר 76.2 מ"מ מדגם F-34, וטנקים אלו נודעו בסימון M4M. מספר שרמנים בשירות הצבא האדום נפלו שלל לידי הוורמאכט.
בעיניהם של הסובייטים, השרמן M4A2 היה עדיף על פני כל טנקי השאל-החכר הקודמים שסופקו על ידי ארצות הברית ובריטניה, והוא נתפס כמעט שווה ערך ל־T-34. הוא אומנם סבל מנחיתות במיגון ובעבירות, אך הוא היה אמין מכנית ופשוט לתפעול.
שרות לאחר מלחמת העולם השנייה.
בתום מלחמת העולם השנייה, הצבא האמריקני הצטמצם מחלקים גדולים ממצבת הכוחות הסדירים ובהם גם גייסות שריון, ומספר רב של טנקי שרמן הועברו לידי בנות בריתה של ארצות הברית. עם סיום המלחמה, לרשות הצבא האמריקני היו 10,000 שרמנים; ב־1950 עמד המספר על 3,202 בלבד, מתוכם 1,376 בלתי כשירים לפעילות, כשאת מקומו של השרמן כטנק הקרב העיקרי תופסים ה־M26/M46 פרשינג.
מלחמת קוריאה.
ביוני 1950 פרצה מלחמת קוריאה, כאשר צבא קוריאה הצפונית פלש לקוריאה הדרומית. במלחמה הייתה השתתפות פעילה של המעצמות ארצות הברית וסין, ובמידה פחותה גם ברית המועצות. מלחמה זו לא הייתה באופייה מלחמת שריון והטנקים לא שימשו כנשק מכריע. אחת הסיבות לכך הייתה הטופוגרפיה של קוריאה שהיא בעיקרה הררית ומיוערת, דבר המקשה על תמרון מסות גדולות של טנקים. במהלך המלחמה שימשו הטנקים בעיקר לסיוע לחיל הרגלים וככלי ארטילריה. עם תחילת המלחמה פלשו טורי שריון של 258 טנקי T-34/85 צפון-קוריאניים - כוח הטנקים החזק באסיה ב־1950, להוציא את ברית המועצות - לדרום. הטנקים הצפון-קוריאניים שעטו לתוככי קוריאה הדרומית, שלצבאה וליחידות האמריקניות המוצבות באזור כמעט ולא היו טנקים. אולם עד אוגוסט איבד הצבא הצפון-קוריאני את תנופתו, וטנקים רבים אבדו במתקפות אוויריות של כוחות האו"ם. באותו חודש החלו להגיע לזירה טנקי שרמן M4A3E8 ו־M26 פרשינג אמריקנים. מבחינה טכנית, ה־M4A3E8 וה־T34/85 היו שווי ערך; תותח ה־76 מ"מ של השרמן, שירה בעיקר תחמושת תת־קליבר בעלת מהירות לוע גבוהה, יכול היה לחדור את שריונו החזיתי של ה־T-34/85 ממרחק. ההבדל היה באימון הצוותים, וכאן לאמריקנים עמד יתרון ברור. קרבות השריון העיקריים במלחמה נערכו מאוגוסט עד אוקטובר 1950, ומאותה עת נהנו הכוחות האמריקנים מעליונות מספרית מוחצת בטנקים.
שירות בצבאות זרים.
במהלך חלוקת הודו נותרו הן בידי הצבא ההודי והן בידי הצבא הפקיסטני טנקי שרמן מסוגים שונים. טנקים אלו שימשו את שני הצדדים במלחמות בין הודו לפקיסטן ב־1965 (המלחמה הקשמירית השנייה) ובמהלך המלחמה ב־1971.
במלחמה הקשמירית השנייה התחוללו קרבות שריון גדולים. הצבא הפקיסטני נהנה מיתרון מספרי בטנקים, כמו גם מיתרון איכותי, מאחר שהיו ברשותו גם טנקים מסוג M47 פטון ו־M48 פטון חדשים יותר לצד טנקי השרמן המיושנים. חיל השריון ההודי לעומת זאת היה מצויד במספר גדול של טנקי שרמן שחלקם חומשו בתותח צרפתי 75 מ"מ. עם זאת, בעימותים הייתה יד השריון ההודי על העליונה. הסיבות העיקריות לכך היו טקטיקה פקיסטנית שגויה שהטילה טנקים רבים כנגד עמדות הגנה מוכנות ומבוצרות היטב, ושימוש מושכל של ההודים בחיפוי אווירי.
טנקי שרמן הופעלו בסכסוכים רבים אחרים ברחבי העולם, ביניהם במלחמת האזרחים הסינית (1949-1945), בידי המורדים בראשותו של פידל קסטרו בקובה בראשית שנות ה־60, במלחמת האזרחים בניקרגואה בשנות ה־80, במלחמות יוגוסלביה בשנות ה־90, ועוד.
כלי רכב משוריינים על בסיס השרמן.