Konev kom fra et småsted i guvernementet Vologda. Han fikk lite formell skolegang og arbeidet som tømmerhugger.