En 1988, il participe pour la première fois aux Jeux olympiques à Séoul (Corée du Sud). Aligné dans les épreuves de dos et de quatre nages, il n'atteint aucune finale mais bat son premier record d'Espagne en grand bassin en s'appropriant la meilleure marque du 200 m dos en 2 min 03 s 33 lors des séries. Toutefois, c'est en à Toronto qu'il bat ses tout premiers records nationaux en petit bassin sur 100 et 200 m dos. En 1989, il s'impose sur le continent européen en remportant le titre de champion d'Europe du 100 m dos à Bonn. En 56 s 44, il remporte l'épreuve devant le Soviétique Sergey Zabolotnov et enlève son premier titre international. Les deux années suivantes, l'Espagnol améliore sensiblement ses records personnels et enrichit son palmarès de plusieurs podiums internationaux. Ainsi, en 1991, il remporte deux médailles lors des Championnats du monde organisés à Perth : l'or sur 200 m dos et l'argent sur 100 m dos. Sur la première épreuve, il domine en finale l'Italien Stefano Battistelli et le Soviétique Vladimir Selkov, offrant ainsi à son pays non seulement le premier titre mondial de son histoire mais aussi sa première récompense. Quelques mois plus tard lors des Championnats d'Europe d'Athènes, il décroche trois médailles en réalisant le doublé 100–200 m dos tout en remportant la médaille d'argent du 100 m papillon. Sur le plan chronométrique, Martín López-Zubero améliore de plus de 5 secondes et demie son record personnel du 200 m dos entre 1990 et 1991. En , il descend pour la première fois sous les 2 minutes sur son épreuve fétiche, le 200 m : à Seattle, il réalise en effet 1 min 59 s 50. En 1991, il améliore à deux reprises le record du monde du 200 m dos aux États-Unis. En novembre, il abaisse même le record planétaire de l'épreuve en 1 min 56 s 57, un temps qui n'est battu qu'en par l'Américain Lenny Krayzelburg.