Selv om han manglet noen formell utdannelse (noe han i ettertid ble sterkt kritisert for av sin svigersønn, keiser Konstantin VII), avanserte Romanos raskt i gradene i hæren under regimet til keiser Leo VI. i 911 var han general i theme i Samos, og senere tjenestegjorde han som admiral (kommandør, ) i flåten. i denne stillingen skulle han delta i bysantinernes angrep mot Bulgaria ved å seile flåten opp Donau i 917, men oppdraget mislyktes fordi den bysantinske armeen ble slått av bulgarerne i slaget ved Acheloos. Romanos seilte tilbake til Konstantinopel hvor han etter hvert utmanøvrerte og diskrediterte regenten Zoë Karbonopsina (keiser Konstantin VIIs mor) og generalen og støttespilleren Leo Fokas den eldre.