Etter det vendte han tilbake til det nylig reformerte Mercedes-Benz racing teamet i 1934. For dette laget vant han tre EM-titler, i 1935, 1937 og i 1938. Som de fleste tyske racing-førere i 1930-årene, ble Caracciola medlem av nazistenes paramilitære gruppe NSKK, men han ble aldri et medlem av NSDAP. Han returnerte til racingmiljøet etter at den andre verdenskrig var over, men han krasjet under kvalifiseringen for Indianapolis 500 i 1946. Han gjorde nok et comeback i 1952 men ble stoppet av et annet krasj under et sportsbil-løp i Sveits. Etter det pensjonerte han seg.