Sin embargo, las lesiones de Ziege iban en aumento, y hacia el 2004 su contrato fue terminado de mutuo acuerdo para que pudiera regresar a Alemania al Borussia Mönchengladbach donde jugó hasta octubre de 2005 donde decide retirarse por haber estado desde diciembre previo sin poder jugar por lesiones en la rodilla izquierda.