V roku 1933, kedy sa k moci v štáte dostali nacisti, bol Thälmann krátko po požiari Ríšskeho snemu zatknutý gestapom. Niekoľko rokov bol držaný vo väzbe na rôznych miestach, až bol v roku 1944 prevezený do Buchenwaldu, kde bol bez súdu, na priamy rozkaz Hitlera, zastrelený.