Šmigun gewann bei der Juniorenweltmeisterschaft 1972 die Goldmedaille über die Distanz von 10 Kilometern und mit der sowjetischen Staffel. 1976 und 1979 gewann er den sowjetischen Meistertitel über die 70-Kilometer-Distanz. Von 1974 bis 1977 gehörte er zur sowjetischen Nationalmannschaft. Nachdem er 1976 Landesmeister über 70 Kilometer und Vizemeister über die 50 Kilometer wurde, gehörte er zum Aufgebot der sowjetischen Mannschaft für die Olympischen Winterspiele in Innsbruck. Er wurde jedoch nicht für den Wettbewerb über 50 Kilometer nominiert und an seiner Stelle startete Jewgeni Beljajew, der über 15 Kilometer die Silbermedaille gewonnen hatte. Beljajew erreichte jedoch nur den 38. Platz. 1978 gewann Anatoli Šmigun wie auch seine Frau Rutt den Tartu Maraton. Von 1977 bis 1982 gewann er sieben Titel bei estnischen Meisterschaften.