Han startet sin karriere i Rotherham og i 1953 ble han solgt til Newcastle United for £12 000. Det var ganske mye penger på den tiden. Han spilte på topp sammen med den veletablerte Jackie Milburn for Newcastle, og derfor kom han ofte i skyggen av den mer kjente partneren. De vant FA-cupen i 1955 og da Milburn la opp sent på 50-tallet tok White over som den ledende målscoreren i klubben – før han gikk til Huddersfield Town i 1962. Med 153 mål ligger han på tredjeplass på toppscorerlisten til Newcastle United, bak Jackie Milburn (204 mål) og Alan Shearer (206 mål).