Contre la volonté de sa famille, il s'engage dans les armées du roi d'Espagne en 1587 et sert en Flandres sous les ordres d'Alexandre Farnèse lors de la guerre contre les Hollandais révoltés. Il combat contre les armées de Henri IV de France à Ligne en 1590 et à Rouen en 1592 puis commande ses propres troupes en Frise, dans le Brabant et dans les Flandres. Lors de la guerre franco-espagnole de 1595-1598, il reçoit la direction des troupes espagnoles lors du siège d'Amiens en 1597 après que le général Porto-Carrero ait été tué lors d'une sortie. Assiégé depuis plusieurs mois dans Amiens, l'armée de secours envoyé par les Espagnols ayant été repoussée par les Français, Carafa est contraint de se rendre le après six mois de siège : il capitule selon des termes honorables et reçoit les honneurs du roi Henri IV.