Kanonen på Sherman var første en 75 mm med lav utgangshastighet. Denne var lite effektivt mot nyere varianter av fiendtlige stridsvogner, og ble erstattet i tjeneste, først av en 76,2 mm med høyere utgangshastighet. Den var en hybrid av 3-tommers kanonen på M10 Wolverine og sluttstykket på 75 mm-kanon, kalt M1. På slutten av krigen var 50% av Shermanvognene utstyrt med denne kanonen. Britiske styrker laget en versjon med 17-punder kalt Firefly. Chassiset på Sherman ble også brukt til selvdrevet artilleri med forskjellige artillerivåpen på (se varianter under).