Після інсценованого нацистами підпалу будівлі Рейхстагу в ніч з 27 на 28 лютого 1933 року в Німеччині почалися арешти комуністів. 5 березня 1933 року Тельман був заарештований і утримувався за наказом Гітлера в одиночному ув'язненні. Суду над Тельманом не було (після провалу суду над Георгієм Димитровим нацисти уникали публічних процесів над політичними супротивниками). У серпні 1944 року Тельман був переведений у концтабір Бухенвальд, де і був розстріляний 18 серпня 1944 року за прямою вказівкою Гітлера і Гіммлера (гітлерівці подавали неправдиву версію про загибель Тельмана під час повітряного нальоту на Бухенвальд).