Nachdem er einige Jahre als Rechtsanwalt praktiziert hatte, begann Davis eine politische Karriere. Nach zwei vergeblichen Anläufen gelang es Davis 2002 die Wahl in den US-Kongress im 7. Wahlbezirk von Alabama für sich zu entscheiden, indem er den alteingesessenen Amtsinhaber Earl F. Hilliard, der 1992 zum ersten afroamerikanischen Abgeordneten Alabamas im US-Kongress seit der Reconstruction-Ära geworden war, in der demokratischen Vorwahl besiegte. Im Kongress bezog Davis viele sozial- und fiskalpolitisch konservative Positionen; so unterstützte er eine Verfassungsänderung für ein Verbot der gleichgeschlechtlichen Ehe, stimmte für den Partial-Birth Abortion Ban Act, die Verlängerung des USA Patriot Act und für Ölbohrungen im Arctic National Wildlife Refuge.