1996 gab er seine Kandidatur für das Amt des US-Senators bekannt. Mit einem Stimmenvorsprung von knapp 30.000 Stimmen konnte er die Wahl gegen seinen republikanischen Herausforderer Guy Millner für sich entscheiden und wurde am 3. Januar 1997 vereidigt. Cleland galt als Senator, der sowohl demokratische aber auch republikanische Ansichten vertrat. So vertrat er im Jahr 2001 auch die Auffassung einer Steuersenkung, wie sie George W. Bush vorsah, zeigte sich in sozialpolitischen Fragen aber eher liberal. So stellte er sich an die Seite der Pro-Choice-Bewegung in den USA. 2003 zählte er zu jenen 29 Senatoren der Demokratischen Partei, die sich für die Intervention von US-Truppen im Irak aussprachen. Später bedauerte er sein Voting. Die sehr radikale Kampagne seines republikanischen Kontrahenten Saxby Chambliss sowie die Präsenz von US-Präsident Bush in Georgia, der für Chambliss warb, waren mit der Grund, weshalb Cleland die Wiederwahl im Jahr 2002 verlor.