Seit dieser Zeit ist Carper politisch tätig. Sein erstes Amt bekleidete er zwischen 1976 und 1983 als Finanzminister (Treasurer) von Delaware. Von Januar 1983 bis Januar 1993 gehörte er dem Repräsentantenhaus der Vereinigten Staaten für Delawares einzigen Kongresswahlbezirk an, nachdem er bei der Wahl 1982 den republikanischen Mandatsinhaber Thomas B. Evans besiegt hatte. Er wurde viermal in seinem Mandat bestätigt. 1992 trat er nicht wieder für den Kongress an, sondern wurde zum 71. Gouverneur seines Staates gewählt, wobei er sich mit 66 Prozent der Stimmen gegen seinen republikanischen Konkurrenten B. Gary Scott durchsetzte. Er hatte dieses Amt nach einer ungefährdeten Wiederwahl 1996 vom 19. Januar 1993 bis 3. Januar 2001 inne. Seit dem 3. Januar 2001 ist Carper US-Senator für Delaware. Er besiegte bei der Senatswahl 2000 den dreißig Jahre lang amtierenden Republikaner William V. Roth mit einem Stimmenanteil von 56 Prozent; bei der Wahl 2006 gelang Carper die Wiederwahl mit 70 Prozent der Stimmen gegen Jan C. Ting. Bei der Wahl 2012 setzte er sich mit 66 Prozent der Stimmen gegen Kevin L. Wade durch. Im Januar 2013 übernahm er den Vorsitz im Ausschuss für Innere Sicherheit vom aus dem Senat ausgeschiedenen Joe Lieberman.