Валтер Шимана е роден на 12 март 1898 година в Тропау, Австро-Унгария, днес Опава, Чехия, в семейството на кореспондента на вестник „Alldeutsche Korrespondenz“ Антон Шимана. През 1915 година постъпва във военно училище в Прага, а в последната фаза на Първата световна война септември – декември 1918 година участва в боеве като войник в Австро-унгарската армия. След края на войната завършва гимназия и посещава едногодишен курс в търговско училище във Виена. Присъединява се неколкократно към доброволчески корпуси и участва във войните на Балтийските държави. През 1921 година се премества в Германия, където се препитава с работа в книжарница и банка. През ноември 1923 година участва в Бирения пуч, а през 1926 година се присъединява към СА и НСДАП (с номер 49 042), като през 1932 година е назначен в ръководството на СА. Междувременно се жени през 1926 година и има две деца.