Howard arbeidet en kort tid med Larry Fine og Moe Howard i gruppa The Three Stooges tidlig på 1930-tallet. Han returnerte til gruppen i 1947 for å erstatte Curly Howard som var blitt syk. Hans første film, (1947), var en kortfilm med The Three Stooges, fulgt av (1947), en av de beste episoder spilt av The Three Stooges. Shemp filmet 73 kortfilmer med The Three Stooges mellem 1947 og 1955. Disse omfattet (1948), (1948), (1949), (1949), (1949), (1951), (1952), (1953) og (1954). Shemp Howard deltok også i TV-produksjoner med The Three Stooges.