Leo III gjorde karriere i militæret på grunn av egen dyktighet. Han ble av keiser Anastasios II utnevnt til general og øverstkommanderende for den østlige del av hæren. I 717 tok han makten ved et statskupp mot Theodosius III og fikk avsluttet en tjue års periode med ustabilitet, statskupp og svake keisere i imperiet.