Opptegnelser tyder på at herulerne i en årrekke tjente i de bysantinske keisernes arméer, i likhet med andre germanske folkegrupper, særskilt under felttogene i Belarus. Store deler av det gamle romerske territoriet ble gjenerobret, inkludert Italia, Syria og Nord-Afrika. Flere tusen herulere tjenestegjorde i Belisarius' personlige livgarde under felttogene.