Leo var sønn av aristokraten Bardas, som var av armensk avstamning. Leo var også av assyrisk (det vil si syrisk) avstamning. Leo tjenestegjorde i 803 under opprørsgeneralen Bardanes Tourkos, som han forlot til fordel for keiser Nikeforos I. Keiseren belønnet Leo med to palasser, men senere forviste han ham etter at han giftet seg med datteren til en annen opprører, patrisieren Arsaber. I motsetning til dette sier en samtidig kilde at en general Leo av theme Armeniac ble straffet etter sitt ydmykende nederlag for araberne der han også tapte lønn til sine theme-enheter. (Nyere forskning tyder på at denne Leo er ikke den samme som keiseren.) Straffen inkluderte også å bli fratatt sin militære rang, slag og hårklipping.