Under Weimarrepublikken ble Heilmann formann for SPDs parlamentariske gruppe i Preußischer Landtag høsten 1921. Der var hans evne til forhandlinger særdeles viktig i arbeidet med å få samarbeidet mellom SPD og Zentrum til å fungere, under storkoalisjonen i Fristaten Sachsen. Fra 1928 var han innvalgt i Riksdagen.