Herbert Rollwage je v Luftwaffe vstopil leta 1936. Spomladi 1941 je bil dodeljen k 5./JG 53, kjer je prvi dan operacije Barbarossa, nemški invaziji na Sovjetsko zvezo dosegel svojo prvo zračno zmago. 22. junija 1941 je namreč sestrelil sovjetski lahki bombnik Tupoljev SB-2. Do 5. oktobra je sestrelil 11 sovjetskih letal, od katerih je kar tri sestrelil 27. avgusta 1941.