2009年12月，沙夫与云达不莱梅续约，但球队战绩却每况愈下。2013年5月15日，在确定以第14名的成绩结束赛季之后，沙夫宣布卸下云达不莱梅主教练的职务，结束他长达41年的绿白生涯。
法兰克福.2014年5月21日，沙夫与法兰克福签下两年合约，正式执教球队。2014–15赛季，他带队得到联赛第九名。2015年5月26日，他辞去法兰克福主教练的职务。
汉诺威96.2015年12月28日，沙夫接手深陷降级区的汉诺威96。但此后球队的战绩不见好转，他带队11