1908'de Erivan Guberniyası'na bağlı Şerur Uyezdi'nin (bugünkü Nahçıvan Özerk Cumhuriyeti'ne bağlı Şerur) Düdangi köyünde doğdu. Soyu Safevilerden gelen Neso Han lakaplı İsmail Han'ın torunudur. Babası Ali Bey, 1910 yılında zehirlenerek ölmüştür. Fatalibeyli, önce Tiflis'e giderek harp okulunda okudu. Ardından Leningrad'a taşınıp Komünist Partisi'ne üye oldu. 1935-1936 yılları arasında Moskova'da bulunan Frunze Askerî Akademisi'nde okudu ve 1936'da ordudan ihraç edildi. 1937 yılında Leyla Kazıyeva ile evlendi. 1938 yılında Leningrad'da ilk evladı Ali dünyaya gelmiştir. 1939 yılında, II. Dünya Savaşı başlar başlamaz tekrar orduya çağrılıp Finlandiya cephesine yollandı. Orada gösterdiği başarısıyla Kızıl Yıldız Nişanı aldı ve 1941'de binbaşlığa yükseltildi. Eylül'de 1941'de Baltık cephesinde Almanya'ya esir düştü.