После Олимпиады немцы долгое время не могли найти виновного, но таковым оказался Отто Нерц, которого обвинили в вылете с турнира (вместе с тем Феликс Линнеманн возложил всю вину на игроков). Нерца должен был заменить Зепп Хербергер, но Отто отказывался отдавать свой пост и постоянно конфликтовал с Хербергером. Только в 1938 году Нерца уволили, а Хербергер занял пост тренера. Сборная под его руководством выиграла квалификацию к чемпионату мира 1938 года, обыграв команды Эстонии, Финляндии и Швеции. В апреле 1938 года после аншлюса Германия сыграла памятную встречу с Австрией в знак объединения стран, в которой австрийцы (а там были заиграны преимущественно профессионалы) одержали уверенную победу. После игры немецкое футбольное руководство заявило, что по крайней мере половину сборной должны составлять австрийцы как более опытные игроки. Но подобное решение стало ошибкой: австрийские профессионалы и немецкие любители в сборной зачастую конфликтовали, и взаимные недоверие и неприязнь стали неотъемлемой частью поведения команды.