Karl Ernst blev 1923 medlem i Nationalsocialistiska tyska arbetarepartiet (NSDAP) och Sturmabteilung (SA). Knappt en månad efter Adolf Hitlers maktövertagande i januari 1933 sattes riksdagshuset i brand. Officiellt dömdes Marinus van der Lubbe för dådet, men enligt flera källor var det Karl Ernst som ledde en grupp SA-män som natten till den 27 februari 1933 anlade eldsvådan.