Ross startet sin karriere i og Preston før han ble hentet til Liverpool av managerne John McKenna og W. E. Barclay for £75 i 1894. Han var den første spilleren i Liverpools historie som de måtte betale penger for.