Johann Tserclaes nacque nel febbraio del 1559 nel Castello di Tilly, vicino a Nivelles, in Belgio, allora facente parte, assieme all'Olanda, dei Paesi Bassi Spagnoli. La sua era una famiglia cattolica originaria del Brabante, e da questa venne mandato a Colonia per ricevere istruzione da insegnanti Gesuiti; in seguito, all'età di quindici anni, decise di arruolarsi nell'esercito spagnolo (l'Esercito delle Fiandre) al comando di Alessandro Farnese. Partecipò a varie azioni durante la guerra degli ottant'anni contro i ribelli olandesi, tra le quali il vittorioso assedio di Anversa nel 1584-1585; queste esperienze gli furono molto utili in futuro, insegnandogli le tattiche spagnole che avrebbe poi applicato con notevole successo. Nel 1600 combatté come mercenario nel conflitto fra l'Impero e gli Ottomani svoltosi in Ungheria e Transilvania e, con rapide promozioni, giunse in soli cinque anni al rango di feld-maresciallo.