Tal fait son service militaire au sein de la Brigade juive de l'armée anglaise. Il participe à la Campagne d'Italie pendant la Seconde Guerre mondiale. En 1946, il rejoint la Haganah comme officier lors de la guerre israélo-arabe de 1948-1949 et pendant l'opération Kadesh, l'invasion du Sinaï par l'armée israélienne lors de la Crise du canal de Suez, Tal commande une brigade. Lors de la guerre des Six Jours, Tal commande une division blindée dans le Sinaï (la blindée). En quelques années, Tal va moderniser les divisions blindées israéliennes et en faire la principale arme de l'armée.