Joe Ansbro naît à Glasgow mais grandit à Galloway où il suit sa scolarité à la '. C'est à ce moment-là qu'il découvre le rugby au sein du club de Castle Douglas. Puis il va au lycée au ' près de Clitheroe dans le Lancashire avant de rejoindre l'Université de Cambridge pour suivre des études supérieures en sciences naturelles. Il dispute alors le  avec l'équipe de l'Université. En 2006, il rejoint l'Académie des Northampton Saints et débute avec l'équipe première en 2007 lors d'un match contre le Moseley RFC comptant pour le . Les "Saints" remportent le championnat et sont promus en première division. Il reste trois saisons avec les Northampton Saints et remporte le challenge européen en 2009 et la Coupe anglo-galloise en 2010. En 2010, il obtient sa première cape en équipe d'Écosse lors du test match contre l'Afrique du Sud, devenant ainsi le premier joueur noir de l'histoire à porter le maillot du XV du chardon. Il fait partie de la sélection écossaise pour le Tournoi des Six Nations 2011 durant lequel il dispute quatre des cinq matchs. À la fin de la saison, il quitte Northampton et s'engage pour trois ans avec les London Irish. Il est retenu dans la pré-liste des sélectionnés pour la Coupe du monde et dispute le match de préparation début août contre l'Irlande. Il marque là son premier essai en sélection nationale, offrant la victoire 10 à 6 aux Écossais en fin de rencontre.