Insgesamt 17 Medaillen gewann Alexander Kostoglod bei Weltmeisterschaften. 1993 belegte er in Kopenhagen mit dem Vierer-Canadier über 500 und über 1000 Meter jeweils den zweiten Platz. Ein Jahr später wurde er in Mexiko-Stadt im Vierer-Canadier über 200 Meter erstmals Weltmeister. Bei den Weltmeisterschaften 1997 in Dartmouth gewann er im Vierer-Canadier über 500 Meter die Silber- und über 1000 Meter die Bronzemedaille. In Szeged gelang ihm 1998 im Zweier-Canadier über 1000 Meter mit Alexander Kowaljow sein zweiter Titelgewinn. Darüber hinaus belegte er im Vierer-Canadier über 200 Meter Rang drei. 1999 wurde er in Mailand auch im Zweier-Canadier mit Alexander Kowaljow über 500 Meter Dritter, während er über 1000 Meter Weltmeister wurde. Es folgte 2001 in Posen der Gewinn der Bronzemedaille im Vierer-Canadier über 200 Meter. Seinen vierten Weltmeistertitel gewann Kostoglod 2002 in Sevilla, als er im Vierer-Canadier auf der 200-Meter-Strecke Erster wurde. Darüber hinaus sicherte er sich im Zweier-Canadier mit Sergei Ulegin über 500 Meter Bronze. Ebenfalls im Zweier-Canadier, diesmal über 1000 Meter und mit Alexander Kowaljow, belegte er 2003 in Gainesville den zweiten Platz. Eine weitere Silbermedaille sowie zwei Goldmedaillen wurden ihm rückwirkend aberkannt, nachdem sein Partner Sergei Ulegin wegen Dopings disqualifiziert und dessen Ergebnisse annulliert wurden. 2005 gewann Kostoglod in Zagreb im Vierer-Canadier über 200 Meter ebenso die Goldmedaille wie 2006 in Szeged mit Sergei Ulegin im Zweier-Canadier über 500 Meter. In Dartmouth belegte er 2009 im Vierer-Canadier über die 200-Meter-Distanz den zweiten Platz. Seine letzte WM-Medaille gewann er 2010 Posen mit Bronze über 500 Meter im Zweier-Canadier mit Pawel Petrow.