Neben Wilhelm Steinitz galt er bald als bester Spieler in England. Zunächst jedoch verlor er einen Wettkampf gegen Steinitz im Oktober 1872 mit 9:3 (sieben Siege Steinitz, ein Sieg Zukertort, vier Remis). Steinitz zog sich 1875 für sieben Jahre vom praktischen Spiel zurück, da er keinen ernsthaften Gegner mehr sah. Währenddessen konnte Zukertort seine schachlichen Fähigkeiten laufend verbessern. 1877 in Leipzig wurde er hinter Louis Paulsen Zweiter zusammen mit Adolf Anderssen. Zu Anfang der 1880er Jahre galt er bereits als klar bester Spieler nach Steinitz. Sein größter Erfolg, der überlegene Sieg im großen Londoner Turnier von 1883, das er mit drei Punkten Vorsprung auf Steinitz gewann, ließ die damalige Schachwelt glauben, Steinitz’ Anspruch auf den „Champion of the World“ sei vorbei, und diese Ehre gebühre nun Zukertort.