קובליוב נולד ב-7 ביולי 1897 במחוז קרסנודאר שבאימפריה הרוסית. ב-1915 התגייס לצבא האימפריה הרוסית, ובמלחמת העולם הראשונה לחם בחזית המזרחית. הוא מונה למפקד מחלקה, ולאחר מכן למפקד פלוגה. עם פרוץ מהפכת אוקטובר ב-1917 הוא כבר החזיק בדרגת קפיטן. ב-1918 התגייס לצבא האדום ולחם במלחמת האזרחים ברוסיה כמפקד גדוד ולאחר מכן מפקד בריגדה. לאחר המלחמה השתתף בדיכוי מרידות מקומיות שפרצו כנגד השלטון הקומוניסטי, ובין היתר במרד טמבוב. באוגוסט 1928 מונה למפקד הדיוויזיה ה-27, ובאוקטובר 1925 הועבר לפקד על הדיוויזיה ה-64. במאי 1932 הוא מונה למפקד הקורפוס התשיעי, וביוני 1936 הוא הועבר לפקד על המחוז הצבאי עבר הבאיקל. בדצמבר 1937 הוא מונה לסגן מפקד המחוז הצבאי קייב, ובאפריל 1938 מונה למפקד המחוז הצבאי בלארוס.