כבן למשפחת אצילים שירת גבשווילי כקצין בצבא האימפריה הרוסית ולקח חלק בהמלחמה העות'מאנית-רוסית (1877–1878), שנערכה מול האימפריה העות'מאנית. לאחר מכן לחם גבשווילי במלחמת העולם הראשונה וקודם, בשנת 1916, לדרגת לוטננט גנרל (דרגה אחת נמוכה מגנרל). הוא שירת כמפקד הצבאי של טביליסי משנת 1916 ועד לשנת 1917 בה מונה כמפקד הכוח הצבאי הגאורגי החדש שהיה הבסיס לצבא הגאורגי שהוקם מאוחר יותר. הוא כיהן בתפקידים בכירים בצבא גאורגיה בתקופת העצמאות הקצרה של הרפובליקה הדמוקרטית של גאורגיה בשנים 1918-1921 ופרש לאחר פלישת הצבא האדום לגאורגיה בשנת 1921.