Hart bewarb sich bei der Wahl 1974, die unter dem Eindruck der Watergate-Affäre stand, für den Senat der Vereinigten Staaten und setzte sich gegen den republikanischen Mandatsinhaber Peter H. Dominick, der Präsident Richard Nixon gegenüber loyal geblieben war, mit 57 zu 40 Prozent durch. Schnell galt Hart als kommender Mann seiner Partei und erhielt einen Sitz im wichtigen Verteidigungsausschuss, in dem er sich für die Reform der Auftragsvergabe beim Militär und für die Bewaffnung mit kleineren, flexibleren Systemen einsetzte. Zudem gehörte er den Ausschüssen für Umwelt und öffentliche Bauten und Nachrichtendienste an. 1975/76 gehörte er dem Church Committee an, das die Watergate-Affäre untersuchte. Er war Vorsitzender des Unterausschusses zur Atomregulierung und flog als solcher im März 1979 während des Reaktorunfalls im Kernkraftwerk Three Mile Island mehrfach in einem Helikopter über das Gelände. Dabei wurde er vom republikanischen Ranking member des Ausschusses, dem Senator Alan K. Simpson, begleitet. Beide arbeiteten den anschließenden Untersuchungsbericht aus. Bereits damals wurde über Präsidentschaftsambitionen Harts spekuliert.