Herberger jugó entre 1921 y 1925 para la selección alemana de fútbol antes de ser nombrado en 1932 asistente del entonces entrenador de la selección alemana de fútbol Dr.