Under andre verdenskrig tjenestegjorde han først som orlogskaptein. Han mottok et japansk samuraisverd, det tyske Jernkorsets ridderkors med ekeløv, og Hjelpekrysser-krigsmerket med diamanter (eneste som ble utdelt), for sine fortjenester som kommandør for hjelpekrysseren «Atlantis». Kapteinen på det britiske skipet «City of Baghdad», som ble senket av Rogge i 1941, skrev senere: «His treatment of prisoners left respect, instead of hatred»(«Hans behandling av fanger etterlot respekt istedenfor hat»). Dette var en årsak til at han var en av de få høyere tyske offiserer som ikke ble arrestert etter krigen.