Der Beschluss zum Bau dieser Straße wurde am 9. Oktober 1801 gefasst, später wurde das Projekt Teil des Stadtentwicklungsplans von Baron Haussmann. Die Ausführung erfolgte aufgrund eines Dekretes vom 21. April 1802 nach den Entwürfen des Architekten Charles Percier. Zuerst wurde der Straßenabschnitt in der Nähe des Louvre und westlich davon zwischen 1806 und 1835 angelegt. Der östliche Straßenabschnitt entstammt der Zeit des Karl X., des Ludwig Philipp und des Napoléon III. Erste Gebäude, bei denen die Arkadenbauweise beachtet wurde, entstanden ab 1811. Notwendige Enteignungen wurden durch ein Gesetz vom 4. Oktober 1849 sowie ein Dekret vom 23. Dezember 1852 genehmigt. Als Georges-Eugène Haussmann im Juni 1853 zum Präfekten von Paris ernannt wurde, übernahm er die Aufsicht über die im Bau befindliche Straße. Der erste Abschnitt entstand bis zum Pavillon de Marsan, danach bis zum Louvre. Dazu ließ Haussmann 67 und schließlich weitere 172 Häuser niederreißen. Die komplette Straße wurde im Mai 1855 mit dem ursprünglichen Namen "rue Impériale" dem Verkehr übergeben. Sie war die erste von Haussmann fertiggestellte Straße und diente als Muster für die noch zu errichtenden Boulevards. Ihren späteren Namen "rue de Rivoli" verdankt sie dem italienischen Ort Rivoli bei Verona, in dessen Nähe die von Napoleon geführte französische Revolutionsarmee am 14. und 15. Januar 1797 in der Schlacht bei Rivoli die Österreicher entscheidend besiegt hatte.