Након Саур револуције 1978. године, постао је заменик председника Револуционарног већа. Након што је унутар НДПА ојачала фракција Халк, Кармал је у лето 1978. године смењен са ове функције и постављен за амбасадора Авганистана у Чехословачкој. Након неуспешног покушаја парчамоваца да изврше пуч у јесен 1978. године, Кармал је био оптужен за организовање завере против владе у Кабулу и смењен са функције амбасадора. Није се вратио у земљу, па је остао у егзилу.