大战爆发后，在1916年春应征当兵，在炮兵训练队毕业后，在莫斯科编入一个重炮兵旅任下士，随部调入西南方面军在独立第2重炮兵营服役。1917年十月革命后，沙俄军队解散，1918年1月科涅夫复员回乡，在家乡参加了地方苏维埃的斗争，在1918年初加入俄国共产党（布尔什维克），担任尼科利斯克地区军事委员。组建了当地革命武装“战斗支队”并任政委。率领所部开赴俄国内战东线作战。后担任第102装甲列车的政委、旅政委、师政委。1922年，担任远东共和国人民革命军政委，与布柳赫尔、乌博列维奇等共同指挥对盘踞远东的日军、美军作