בגרמיאן שנואש מהמצב הפוליטי והחברתי השתתף בניסיון הפיכה נגד השלטון בארמניה. ההפיכה נכשלה והוא נשלח לכלא. ב-1920 פרצה מלחמת טורקיה–ארמניה ובגרמיאן גויס שוב לצבא הארמני. כמפקד פלוגת פרשים לחם בקרבות קארס וסרקמיש. זמן קצר לאחר מלחמה זו כבש הצבא הסובייטי את ארמניה ופירק את הצבא הארמני. בגרמיאן התגייס לצבא האדום וקבל פיקוד על גדוד פרשים בארמייה הסובייטית ה-11.