排名提升至德乙联赛中游。1994年11月至1995年2月，他也曾在德甲联赛中执教德累斯顿迪纳摩。自2000年欧洲杯起，他成为德国国家队主帅的助理教练，并在随后获德国足协委任为青年队主帅。期间他曾在2008年7月26日率领德国U-19国家队在2008年欧洲U-19足球锦标赛决赛中以3:1战胜意大利并获得冠军。除德国U-19国家队外，赫鲁贝施也曾监管德国U-20国家队，但在2009年U20世界盃足球赛四分之一决赛中不敌巴西后而离任。此外，他还曾作为临时主帅带领德国U-21国家队征战2009年欧洲U-21足球锦标