Profesyonel futbol kariyerine 1936 yılında, Bournemouth'ta başladı. Takımdaki ilk 11 maçında 10 gol atmayı başaran Rowley, 8 ay sonra ülkenin büyük kulüplerinden Manchester United'a, 3.000 sterlin karşılığında transfer oldu. 23 Ekim 1937'de, henüz 17 yaşındayken Sheffield Wednesday karşısında United formasıyla ilk maçına çıktı. Swansea Town ile oynanan ve takımdaki ikinci maçı olan karşılaşmada dört gol birden kaydetti. 1947-48 sezonunda FA Cup şampiyonluğu yaşarken, Blackpool ile oynanan ve 4-2 kazandıkları final maçında iki gol atmayı başardı. 1951-52 sezonunda ligde attığı 30 golle hem takımın o sezonki en golcü oyuncusu oldu hem de kazanılan First Division şampiyonluğunda önemli pay sahibi oldu. 1955'e kadar oynadığı Manchester United'da toplamda 211 gol attı ve Bobby Charlton ile Denis Law'ın ardından kulüp tarihinin en golcü ve 200 gol barajını geçen üçüncü ismi oldu. Takımdan ayrıldıktan sonra Plymouth Argyle'da oyuncu-teknik direktör olarak görev almaya başladı. 1956-57 sezonunda ise futbolculuk kariyerini sonlandırdı.