Ο Ζιαούρ Ραχμάν απεφοίτησε ως ανθυπολοχαγός το 1955 και μετεκπαιδεύθηκε στις ειδικές δυνάμεις και αργότερα στο Ηνωμένο Βασίλειο και στη Γερμανία. Γνώρισε τον πραγματικό πόλεμο στον Ινδοπακιστανικό Πόλεμο του 1965 και τιμήθηκε για το θάρρος του με το δεύτερο υψηλότερο παράσημο του Πακιστάν, το Χιλάλ-ι-Τζουράατ. Προάχθηκε σε ταγματάρχη και έγινε υποδιοικητής του 8ου Συντάγματος Ανατολικής Βεγγάλης, με το Ανατολικό Πακιστάν κατεστραμμένο ήδη από τον τυφώνα Μπόλα και τον λαό του πικραμένο από την αδιαφορία της πακιστανικής κυβερνήσεως. Αυτό τροφοδότησε το αποσχιστικό κίνημα της ανεξαρτησίας του Ανατολικού Πακιστάν από το Πακιστάν, και τη δημιουργία του Μπανγκλαντές, κίνημα στο οποίο προσεχώρησε και ο Ραχμάν. Κατά τον Πόλεμο της Ανεξαρτησίας του Μπανγκλαντές ήταν διοικητής της ταξιαρχίας «Δύναμη Z» από τον Ιούλιο του 1971. Υπήρξε ο πρώτος που εξεφώνησε ραδιοφωνικώς τη διακήρυξη ανεξαρτησίας της χώρας από τον ραδιοσταθμό Καλουργκάτ στο Τσιταγκόνγκ στις 27 Μαρτίου 1971. Μετά τον πόλεμο ο Ζιαούρ Ραχμάν προάχθηκε σε υπαρχηγό και κατόπιν αρχηγό του Γενικού Επιτελείου Ενόπλων Δυνάμεων. Η άνοδός του στην ηγεσία της χώρας υπήρξε ωστόσο αποτέλεσμα συνωμοσίας που είχε προηγουμένως προκαλέσει τη δολοφονία του Σέιχ Μουτζιμπούρ Ραχμάν, ιδρυτή και πρώτου Προέδρου του Μπανγκλαντές, με συνακόλουθο πραξικόπημα. Ο Ζιαούρ ανέλαβε "de facto" την εξουσία ως επικεφαλής κυβερνήσεως υπό την ισχύ στρατιωτικού νόμου, που είχε επιβάλει η προηγούμενη κυβέρνηση, αναλαμβάνοντας τη θέση του Προέδρου του Μπανγκλαντές την 21η Απριλίου 1977.