Durante sus 17 años como profesional, Klos jugó sólo para dos clubes, el Borussia Dortmund y el Glasgow Rangers, ganando un total de 13 títulos entre ambos, incluyendo la Liga de Campeones de la UEFA en 1997.