Levin foi eleito senador em 1978, cargo qual tomou posse em 1979, foi reeleito em 1984, 1990, 1996, 2002 e em 2008. Serviu no Comitê das Forças armadas do Senado. Ele apoiou a guerra do Afeganistão, como parte da guerra global contra o terrorismo, mas se opôs a invasão do Iraque em 2003. Foi favorável a leis de controle de armas, apoiava uma reforma no sistema de saúde americano e defendeu causas ambientais. Nenhum senador por Michigan serviu mais tempo no Congresso do que ele. Em 2015, ele oficialmente se aposentou, sendo sucedido por outro democrata.