Abhasian armeijan pohja on abhaasien kansalliskaarti, joka perustettiin vuoden 1992 alussa juuri ennen Abhasian sotaa. Abhasian puolustusministeriön ja asevoimien pääesikunnan virallinen perustamispäivä on 12. lokakuuta 1992. Vuoden 1992 sodassa Abhasian joukkoja tukivat Kaukasuksen vuoristokansojen konfederaatio ja Venäjän armeijan Abhasiassa olevat sotilasyksiköt. Tuolloin Abhasian joukot torjuivat Georgian armeijan intervention ja karkottivat suurimman osan Abhasian georgialaisväestöstä. Asevoimien aseistus on peräisin venäläisiltä tai georgialaisilta saadusta sotasaaliista.