Peter Grebe wurde am 24. April 1896 als Sohn eines Landwirts in der Ortschaft Thieringhausen, die heute zur Stadt Olpe gehört, geboren. Nach seiner Schulzeit nahm er direkt am Ersten Weltkrieg teil. Er wurde Reserve-Offizier und erhielt das Eiserne Kreuz I. und II. Klasse. Nach Kriegsende beteiligte er sich als Freikorpskämpfer in Berlin am Kampf gegen den Spartakistenaufstand.