반소
스탈린의 사후, 코네프는 다시 요직으로 복귀하였고, 새로운 권력자 흐루쇼프의 정치적 동맹자가 되었다. 코네프는 흐루쇼프의 정적이던 베리야를 체포해 처형하는데 큰 역할을 했고, 이 공적으로 다시 국방 제1부부장과 소련 지상군 사령관이 되었다. 1956년에는 바르샤바 조약기구의 총사령관에 임명되었다. 그가 취임한 직후, 바르샤바 조약군은 헝가리 반소 봉기를 잔인하게 진압하였다.