Pierwszy sukces w karierze José Antonio Hermida osiągnął w 1996 roku, kiedy podczas mistrzostw świata MTB w Cairns zdobył złoty medal w cross-country juniorów. Na rozgrywanych trzy lata później mistrzostwach świata w Åre wspólnie z Roberto Lezaunem, Margaritą Fullaną i Carlosem Colomą zdobył złoty medal w sztafecie. Hiszpanie zostali tym samym pierwszymi mistrzami świata w tej konkurencji. Podczas mistrzostw świata w Sierra Nevada w 2000 roku drużyna hiszpańska w składzie: Roberto Lezaun