Harper zog zum zweiten Mal ins Unterhaus ein und wurde Oppositionsführer. Er überwand seine Differenzen mit Stockwell Day und schrieb im März 2003 mit ihm zusammen einen Leserbrief an das Wall Street Journal. Darin verurteilten sie den Widerwillen der kanadischen Regierung, sich an der Invasion des Iraks zu beteiligen. Inzwischen hatten geheime Verhandlungen mit der Führung der Progressiv-Konservativen über einen Zusammenschluss begonnen. Stephen Harper und Peter MacKay, die beiden Parteivorsitzenden, gaben am 16. Oktober 2003 die bevorstehende Fusion bekannt. Am 5. Dezember stimmten die Mitglieder der Kanadischen Allianz mit 96 % für den Zusammenschluss, am 6. Dezember jene der Progressiv-Konservativen mit 90 %. Zwei Tage später wurde die neu gebildete Konservativen Partei offiziell registriert. Erstmals seit 16 Jahren war es damit gelungen, die konservativen Kräfte im kanadischen Parteienspektrum unter einem Dach zu bündeln.