В 1916 году поступил в духовную академию в Эчмиадзине. В том же году написал свою первую статью в газету. Освоил грузинский и азербайджанский языки. После Февральской революции вёл партийно-пропагандистскую работу в Тифлисе и в Баку, в последнем лично познакомился со Степаном Шаумяном, произведшим на него в день первого знакомства огромное впечатление. С сентября секретарь Тифлисского парткомитета. В октябре участник проходившего нелегального Общекавказского партсъезда. Во время мартовских событий в Баку командовал небольшим отрядом, а затем был комиссаром в бригаде Амазаспа Срванцтянa (Третья бригада Красной армии). После бегства бакинских комиссаров, остался в Баку, возглавив подпольный обком большевиков. Перед взятием Баку турками Микоян добился у главы Диктатуры Центрокаспия Абрама Велунца разрешения на освобождение и последующую эвакуацию бакинских комиссаров. Вскоре Анастас Микоян вывез комиссаров на пароходе «Туркмен», но в Красноводске они были арестованы. Микоян был освобождён в феврале 1919 года и в марте того же года возглавил Бакинское бюро Кавказского крайкома РКП(б). По своим же словам, Микоян выступал за независимость Азербайджана ещё в 1919 году и разошёлся в этом вопросе со многими армянскими коммунистами, за что в армянских кругах Баку его скоро стали называть «мусульманским коммунистом». В октябре 1919 года был вызван в Москву, где стал членом ВЦИК.