En la temporada 1994/95 consiguieron quedarse en la primera división cómodamente y en los siguientes años el Schalke fue conocido por su gran defensa que trabajaba alrededor de Jens Lehmann, permitiendo la menor cantidad de goles en toda la Bundesliga, 36 en total, en la temporada 1995/96, a la vez que consiguieron la mejor posición en la tabla después de casi 20 años, terminando en el tercer lugar.