Op 30 september 1943 trad Herold in militaire dienst. Na zijn basisopleiding als Fallschirmjäger in Tangermünde werd hij bij Nettuno en Monte Cassino in Italië ingezet, waar hij tot Gefreiter bevorderd werd. Na 14 dagen front kreeg hij het IJzeren Kruis Eerste Klasse voor het vernietigen van twee Britse tanks op het strand van Salerno. Tegen het einde van de oorlog werd zijn eenheid naar Duitsland verplaatst. Op 3 april werd Herold bij Gronau van zijn eenheid gescheiden. Op weg naar het noorden vond hij in de buurt van Bad Bentheim een officierskist in een verlaten vrachtwagen, waarin een gedecoreerd uniform van een Hauptmann der Luftwaffe lag. Hij trok dit aan en ging verder. In de dagen erna sloten steeds meer verdwaalde soldaten bij hem aan. Zo bestond zijn groep in de omgeving van Meppen al uit dertig man. Op weg naar het noorden had Herold een terreinwagen gevorderd en wist hij ook nog de beschikking te krijgen over een luchtafweergeschut en een militaire vrachtwagen. In Lathen liet hij zich bevoorraden uit een daar gelegen munitieschip.