10 Mayıs 1923 tarihinde Nahçıvan'da doğan Aliyev, ilk, orta ve teknik öğrenimini Nahçıvan'da yaptı. Şimdiki adı Azerbaycan Petrol Akademisi olan M. Azizbeyov Sanayi Enstitüsü'nden 1941 yılında mezun oldu. 20 yaşında Komünist Partisi'ne girdikten sonra, 1941 yılından itibaren Nahçıvan Özerk Sovyet Sosyalist Cumhuriyeti Halk Dili Işleri Komiserliği'nde ve Halk Komiserleri Meclisi'nde Şube Müdürü olarak görev yaptı. Bu görevinin ardından 1944 yılında Nahçıvan Komünist Partisi tarafından KGB'de görevlendirildi. 1957 yılında şimdik adı Azerbaycan Devlet Üniversitesi olan Sergei Mironoviç Kirov Üniversitesi'nden mezun oldu. 1967 yılında Azerbaycan Komünist Partisi Merkez Komitesi Birinci Sekreterliği'ne getirildi. İki kez Sosyalist Emek Nişanı ile ödüllendirilen Haydar Aliyev, 1976 yılında Sovyetler Birliği Komünist Partisi Merkez Komitesi Politbüro