1855 wurde Tupper als Abgeordneter des Parlaments der britischen Kolonie Nova Scotia gewählt. Er war Mitglied der Confederation Party, die den Anschluss Nova Scotias an die Kanadische Konföderation befürwortete. Von 1864 bis zum Beitritt zur Konföderation im Jahr 1867 war er Premierminister der Provinz. Tupper nahm an der Charlottetown-Konferenz, der Québec-Konferenz und der Londoner Konferenz teil; als einer der Väter der Konföderation gehört er somit zu den Wegbereitern des kanadischen Bundesstaates. 1872 ernannte ihn Premierminister John Macdonald zum Chef der nationalen Steuerbehörde. 1873 war Tupper für kurze Zeit Zollminister, bis der Pacific-Skandal die Regierung zu Fall brachte.