Aleksandr Jakovlev studerte på det militære luftfartsakademi i Moskva og ble uteksaminert som ingeniør i 1931. Han arbeidet fra 1932 i et konstruksjonsbyrå, som er blitt oppkalt etter ham. I denne stillingen ble han i 1937 utnevnt som sjefsingeniør. I 1948 ble han minister for luftfartsindustrien i Sovjetunionen etter han allerede siden 1940 var vicefolkekommissær for luftfartsindustrien. Før andre verdenskrig deltok han på flere reiser til utlandet, blant annet til Italia, England og Tyskland, hvor han gjorde seg fortrolig med flyproduksjon. Etter det tyske overfallet på Sovjetunionen arbeidet han samtidig med flytting av flyfabrikkene lenger mot øst (bak Ural), stadig som var leder av sitt konstruksjonsbyrå.