Aleksandr Jakovlev studerede på militærets luftfartsakademi i Moskva og forlod dette som ingeniør i 1931. Han arbejde fra 1932 i et konstruktionsbureau, som er opkaldt efter ham. I denne position blev han i 1937 udnævnt som generalingeniør. I 1948 blev han minister for luftfartsindustri i Sovjetunionen efter han allerede siden 1940 var vicefolkekommisær for luftfartsindustri. Før 2. verdenskrig tog han i denne funktion på flere rejser til udlandet, blandt andet til Italien, England og Tyskland, hvor han gjorde sig fortrolig med flyproduktion. Efter det tyske overfald på Sovjetunionen arbejdede han samtidig med evakueringen af flyproduktionen, der blev flyttet længere mod øst og med organisationen af denne produktion, stadig som leder af sit flykonstruktionsbureau.