Perkins fortsatte å være Liverpools bakerste mann frem til 1903, da han måtte gi fra seg keeperplassen til . I kampen mot Sunderland 30. mars 1903 ble Platt foretrukket, og Perkins spilte aldri for de røde igjen. Han fikk totalt 117 kamper for klubben.