Senere i 1995 gikk Hyypiä til den nederlandske klubben Willem II. Han hadde en svært suksessfull tid i klubben og ble svært populær hos fansen. Han spilte 100 seriekamper for laget og skåret 3 mål før han ble solgt til Liverpool.