Baldini begann seine radsportliche Laufbahn 1951. Nachdem Ercole Baldini 1954 bereits den Stundenweltrekord für Amateure mit 44,870 km gebrochen hatte, verbesserte er am 19. September 1956 auf der Mailänder Vigorelli-Bahn mit 46,394 km den allgemein geltenden Stundenweltrekord für Profis. Damit übertraf er den gerade erst drei Monate alten Rekord des fünfmaligen Tour-de-France-Siegers Jacques Anquetil um 235 m. Baldini wurde im Jahre 1957 Profi, nachdem er 1956 in Melbourne Olympiasieger im Straßenrennen geworden war. Aufgrund seiner Meistertitel und seiner Erfolge gilt Baldini in Italien als „Campionissimo“, besonders in seiner mittelitalienischen Heimat, der Emilia-Romagna, ist er sehr populär. 1958 gewann er die Straßen-Radweltmeisterschaft der Profis. Die Rennserie Trofeo Cougnet konnte 1963 für sich entscheiden.