Stalin, que estaba consolidando su poder en el país, aprobó el nombramiento de Yakir para el Distrito Militar Ucraniano en 1925, pero no confiaba plenamente en él, y dio instrucciones a su aliado político Lázar Kaganóvich para hacerse amigo de Yakir e informar sobre sus actividades. Yakir era un verdadero creyente de la causa comunista, y estaba involucrado en la política interna. Desempeñaba miembro del Comité Central del Partido Comunista de la Unión Soviética en Moscú, y miembro del Politburó del Partido Comunista (Bolchevique) de Ucrania. Mientras era ingenioso e independiente en sus pensamientos como comandante militar, en la política soviética era un dócil miembro del partido y seguidor de la línea estalinista. Durante la hambruna de Ucrania (Holodomor) causada por las forzada colectivización de Stalin en la agricultura, en los años 1932 y 1933, Yakir se alarmó de la tragedia y se aproximó a Stalin con su petición de suavizar las políticas oficiales.