都被张须陀各自扫平，威振东夏。以功升为齐郡通守，领河南道十二郡黜陟讨捕大使。此时又有贼卢明月率众十余万窥伺入寇河北，屯兵于祝阿时（今山东禹城西南），须陀邀击，杀数千人。贼吕明星、帅仁泰、霍小汉等众各万余滋扰济北，张须陀进军将其击走。招募将兵征讨瓦岗军翟让，前后三十余战，每战必胜。又迁为荥阳通守。此时李密游说翟让取洛口仓，翟让深深忌惮张须陀不敢进军。在李密反复劝说下，翟让才与李密率兵逼荥阳，张须陀率兵拒之。翟让恐惧，率兵退却，张须陀乘胜追击逐北十余里。此时李密事先伏数千人在林间，突然暴起偷袭，张须陀部