Heilmann ble medlem av Sozialistische Einheitspartei Deutschlands (SED), det statsbærende kommunistpartiet i DDR, i 1986. På dette tidspunktet stod partiet fremdeles for en totalitær politikk, forfulgte opposisjonelle og annerledes tenkende og motsatte seg alle forsøk på reformer. Han fortsatte som medlem av partiets etterfølgerpartier SED-PDS og PDS frem til 1992. I 2000 ble han igjen medlem av PDS, som siden skiftet navn til Die Linkspartei.PDS og deretter ble omdannet til Die Linke. Heilmann studerte jus mellom 1992 og 2005, og fikk graden (en grad som omtrent tilsvarer bachelor, og ikke gir rett til å arbeide som f.eks. advokat) i 2004. Fra 1991 til 2004 arbeidet han på bensinstasjon og som teppeselger. Han var arbeidsløs fra 2004 til 2005, da han ble (praktikant) ved landretten i Lübeck.