I 1895 ble Chamberlain koloniminister, i Lord Salisburys konservative og unionistiske regjering. Chamberlain viste seg å være en ivrig imperialist og aktiv i forbindelse med boerkrigen så ble han unionistenes ledende politiker i parlamentsvalget i 1900. Etter å ha besøkt Sør-Afrika gikk han av i 1903 og ledet en kampanje for en reformert handelspolitikk, med proteksjonistiske tollsatser mot import fra land utenfor imperiet. Et splittet unionistparti tapte valget i 1906 og på grunn av en synkende andel frihandelsvennlige konservative i underhuset ble Chamberlain favoritt til ny leder av unionistene. I juli 1906 ble han imidlertid rammet av et hjerneslag som svekket han og tvang han til å trekke seg tilbake fra det politiske liv. Joseph Chamberlain døde 3. juli 1914 og er begravet på Key Hill Cemetery i Birmingham.