Wark startet sin karriere i Ipswich i 1975, hvor han var med på å vinne både FA-cupen og UEFA-cupen. Han ble i klubben frem til 1984 da han ble kjøpt av Liverpool for 450 000. Her var han blant annet med på å vinne to ligamesterskap. I 1988 returnerte han til Ipswich, før han signerte for Middlesbrough i 1990. Her ble han værende i kun en sesong, før han nok en gang returnerte til Ipswich.