Leão era filho do patrício Bardas, de origem arménia. Prestou serviço sob o comando do general rebelde Vardanes, o Turco, cujo partido abandonou a favor de . O imperador recompensou-o com dois palácios, mas mais tarde exilou-o por ser ter casado com a filha de outro rebelde, o patrício Arsabero. Chamado por em 811, Leão tornou-se governador do Tema da Anatólia e saiu-se bem na guerra contra os árabes em 812. Leão sobreviveu à batalha de Versinícias em 813 por ter fugido do campo de batalha, mas ainda assim tirou partido desta derrota para obrigar Miguel I a abdicar do trono a seu favor em 11 de Julho de 813.