Makarov var forward på det sovjetiske landslaget i ishockey og klubblaget CSKA Moskva. Han ble olympisk mester to ganger og vant flere verdensmesterskap med Sovjetunionen på 1970- og 80-tallet. Makarov utgjorde sammen med Igor Larionov og Vladimir Krutov første rekke på det sovjetiske landslaget. Han spilte elleve sesonger i CSKA Moskva og ble kåret til landets beste spillere åtte ganger.