1919年加入红军着名的“布琼尼兵团”，成为骑兵第1集团军第11师的一名列兵。俄国内战结束后，格列奇科进入塔甘罗格市的第6骑兵学院学习，并于1926年毕业。随后他在莫斯科军区独立骑兵第1旅任排长、连长。1928年格列奇科加入苏联共产党，1936年自伏龙芝军事学院毕业。1938年10月任白俄罗斯特别军区独立骑兵师参谋长。1939年9月参加西白俄罗斯解放进军。接着前往苏联总参谋部军事学院学习，至1941年毕业。毕业前的几个星期，德军发动巴巴罗萨行动全面对苏联宣战。1941年7月，根据其本人请求，格列奇科被调