古特曼于1932年返回欧洲，并在第二次世界大战爆发前曾先后在奥地利、荷兰和匈牙利执教。他首先重返老东家维也纳力量，随后又转投恩斯赫德；其教练生涯的首个冠军头衔则是率领乌伊佩斯特在1939年夺得匈牙利足球甲级联赛冠军及米杜柏杯冠军。二战期间，古特曼逃亡至瑞士，并在当地遭到拘禁。战争结束后，古特曼在前往罗马尼亚加盟前曾简要执教沃绍什。在罗马尼亚，由于粮食短缺，古特曼坚持要求球队以蔬菜支付其薪金。其后，由于球队董事会企图干预球队阵容选择，古特曼随即离任。他的下一站是重回乌伊佩斯特，并再度率队赢得匈牙利冠军。随后