Ο Καρμάλ ορίστηκε Αναπληρωτής Πρόεδρος του Επαναστατικού Συμβουλίου, μία θέση ισόβαθμη με αυτή του αντιπροέδρου της χώρας, στην κομμουνιστική κυβέρνηση. Η συνιστώσα του Παρτσάμ βρέθηκε υπό σημαντική πίεση από τα μέλη του Χαλκ αμέσως μετά την ανάληψη της εξουσίας. Τον Ιούνιο του 1978, μια συνεδρίαση της Κεντρικής Επιτροπής του ΛΔΚΑ ψήφισε υπέρ του να δοθεί στη συνιστώσα Χαλκ ο αποκλειστικός έλεγχος της πολιτικής του Λαϊκού Δημοκρατικού Κόμματος. Την απόφαση αυτή ακολούθησε ένα αποτυχημένο πραξικόπημα του Παρτσάμ, μετά το οποίο ο Χαφιζουλάχ Αμίν, μέλος του Χαλκ, ξεκίνησε εκκαθάριση ενάντια στα μέλη του Παρτσάμ. Ο Καρμάλ επέζησε από την εκκαθάριση αλλά εξορίστηκε στην Πράγα. Ο Καρμάλ παρέμεινε στην εξορία μέχρι τον Δεκέμβριο του 1979, όταν η Σοβιετική Ένωση παρενέβη στο Αφγανιστάν (με τη συγκατάθεση της κυβέρνησης του Αμίν) για να σταθεροποιήσει την κατάσταση της χώρας. Τα σοβιετικά στρατεύματα πραγματοποίησαν πραξικόπημα και δολοφόνησαν τον Αμίν. Ο Καρμάλ ήταν πάντα επικριτικός στον προκάτοχό του από το Χαλκ Νουρ Μουχαμάντ Ταρακί και στον εξαιρετικά αριστερό ριζοσπαστισμό του Αμίν.