Dopo la lotta per l'ascesa al potere che seguì la morte di Lenin venne eletto nel Comitato Centrale nel 1923. Divenne "Commissario del Popolo per il Commercio Interno ed Estero" nel 1926, ed entrò in contatto con la cultura industriale occidentale, dalla quale prese la produzione di beni in scatola. Nel 1935 venne eletto al Politburo, e fu uno dei primi leader sovietici a recarsi negli Stati Uniti per negoziare una cooperazione per lo sviluppo economico del suo paese. Fu responsabile dell'organizzazione per il trasporto di cibo e vettovagliamenti durante la seconda guerra mondiale. Suo figlio, pilota nell'Aeronautica, venne ucciso in combattimento da un caccia tedesco nella Battaglia di Stalingrado. Nel 1942 divenne membro del Comitato per la Difesa di Stato e per i suoi sforzi nel periodo bellico, venne decorato come Eroe del Lavoro Socialista nel 1943. Nel 1946, Mikojan divenne vice presidente del Consiglio dei ministri.