Der Sohn eines Polizeioberleutnants besuchte die Volks- und Oberschule in Hamburg-Eppendorf, bevor er 1943 während der alliierten Bombardierung Hamburgs als Luftwaffenhelfer eingezogen wurde. Gegen Kriegsende diente er als Fahnenjunker bei der Luftwaffe und geriet 1945 in Italien in amerikanische Gefangenschaft, konnte aber bereits Ende des Jahres nach Hamburg zurückkehren und seine unterbrochene Schulausbildung fortsetzen. Ab 1949 studierte Mandelkow in Hamburg Philosophie, Theologie und Literaturwissenschaften und finanzierte sein Studium zeitweise als Gitarrist in Hamburger Jazzklubs, ehe er 1955 auf Betreiben seines akademischen Lehrers Hans Pyritz (1905–1958) ein Stipendium der Studienstiftung des deutschen Volkes erhielt.