Au cours de sa carrière sur route, il est l'un des trois coureurs — avec ses compatriotes Rik Van Looy et Eddy Merckx — à avoir remporté les cinq classiques "Monument", Milan-San Remo (1973, 1978 et 1979), le Tour des Flandres (1977), Paris-Roubaix (1972, 1974, 1975 et 1977), Liège-Bastogne-Liège (1970) et le Tour de Lombardie (1974 et 1976). Il a également gagné d'autres grandes classiques, comme la Flèche wallonne (1971), le Championnat de Zurich (1975) ainsi que Paris-Bruxelles (1981). Son contemporain Merckx est son principal rival sur les classiques, tandis que Roger De Vlaeminck ne l'a jamais inquiété sur les grands tours. Malgré cela, De Vlaeminck comptabilise 22 victoires d'étapes sur le Tour d'Italie, une étape sur le Tour de France et sur le Tour d'Espagne. Il a également remporté des courses par étapes, dont six Tirreno-Adriatico consécutifs (entre 1972 et 1977) et le Tour de Suisse en 1975. Il est double champion de Belgique sur route en 1969 et 1981 et vice-champion du monde en 1975. Au total, il remporte 259 courses, dont 105 critériums. Très actif dans le cyclo-cross (tout comme son frère aîné Eric), il devient champion du monde de la spécialité chez les amateurs en 1968 et les professionnels en 1975.