Great Purge
1926년 코네프는 프룬제 군사 아카데미에서 고급과정을 이수하고, 트랜스바이칼과 북코카서스 군관구에 배치되었다. 스탈린의 대숙청 당시 많은 고급 지휘관들이 숙청되지만, 이것을 무사히 넘긴 장교들은 지휘공백을 메꾸기 위해 빠르게 승진하였다. 코네프는 스탈린의 친우인 보로실로프의 후원으로 대숙청을 무사히 넘겼고 빠르게 승진하였다.