Prokhorov ble født i 1916 i Atherton i Queensland i Australia i en familie med russiske revolusjonærer som emigrerte fra Russland som ønsket å unnslippe fra undertrykkelsen fra den tsariske regjeringen. I 1923, etter oktoberrevolusjonen, kom de tilbake til Russland. I 1934 begynte Prokhorov på Statsuniversitetet i St. Petersburg for å studere fysikk. Han ble uteksaminert i 1939 og flyttet dermed til Moskva og begynte arbeidet sitt ved Lebedevs fysikkinstitutt i oscillasjonslaboratoriet som var ledet av akademikeren N. D. Papaleksi. Forskningen hans der var for det meste dedikert til hvordan radiobølger bevegde seg i ionosfæren. Ved starten av andre verdenskrig i Sovjetunionen ble han med i Den røde armé. Prokhorov var med i infanteriet, og ble skadet to ganger og fikk tre medaljer, inkludert modighetsmedaljen i 1946. Han ble tungt skadet i 1944 og kunne dermet ikke bevege seg mye, og ble derfor sendt tilbake til Lebedev instituttet hvor han skrev avhandlingen sin.