Anders Holmertz begann im Alter von vier Jahren mit dem Schwimmen. Im Alter von 15 Jahren nahm er 1984 in Los Angeles erstmals an Olympischen Spielen teil und erreichte den sechsten Platz mit der schwedischen 4-mal-200-Meter-Freistilstaffel, auf der 200-Meter-Freistil-Strecke belegte er den zwölften Platz. Bei den Schwimmeuropameisterschaften 1985 in Sofia gewann er zusammen mit Per Johansson, Michael Söderlund und Tommy Werner hinter dem westdeutschen Quartett die Silbermedaille in der 4-mal-200-Meter-Freistilstaffel. Zwei Jahre später siegte Holmertz bei den Schwimmeuropameisterschaften 1987 in Straßburg auf der 200-Meter-Freistil-Strecke vor dem Italiener Giorgio Lamberti und dem Deutschen Michael Groß, mit der schwedischen 4-mal-200-Meter-Fresitilstaffel erhielt er die Bronzemedaille hinter den beiden deutschen Staffeln. Bei den Olympischen Spielen 1988 in Seoul gewann Holmertz auf der 200-Meter-Freistil-Distanz die Silbermedaille hinter dem Australier Duncan Armstrong, über 400 Meter belegte er den achten Platz. Mit der 200-Meter-Staffel schwamm Holmertz in Seoul auf den sechsten Platz.