Rufer imponerte og skrev sin første profesjonelle kontrakt 23. oktober 1981, som den første newzealandske spiller som har gjorde det. Han ble nekta til å spille i England, så han skrev kontrakt med FC Zurich i mai 1982, etter å hjulpet New Zealand til VM i 1982, etter å ha scoret det avgjørende målet i kvalifiseringen mot Kina.