Jay Harrison begann seine Karriere als Eishockeyspieler beim Brampton Battalion, für das er von 1998 bis 2002 in der Ontario Hockey League aktiv war. In dieser Zeit wurde er im NHL Entry Draft 2001 in der dritten Runde als insgesamt 82. Spieler von den Toronto Maple Leafs ausgewählt. Anschließend spielte der Verteidiger je drei Spielzeiten für deren Farmteams aus der American Hockey League, die St. John’s Maple Leafs und Toronto Marlies. Dabei absolvierte Harrison zwischen 2005 und 2007 auch 13 Spiele für die Maple Leafs in der National Hockey League.