Harkness begynte sin karriere i sin lokale klubb Carlisle United FC i 1988. Han fikk kun 13 kamper for klubben før Liverpool manager Kenny Dalglish kjøpte han for 75 000 pund 17. juli 1989.