Il fut repêché par les Bruins de Boston de la Ligue nationale de hockey en 1988, lorsqu'il était joueur étoile au sein du R.P.I ( en quatrième ronde). Alors qu'il ne parlait pas un mot d'anglais à son arrivée, il y obtint un baccalauréat d'ingénieur en aéronautique en seulement trois ans. Joé a fait son entrée dans la LNH avec les Bruins de Boston en 1991. Il est également allé chercher une médaille d’argent aux Jeux olympiques d'hiver de 1992 à Albertville en France, au sein de l'équipe du Canada. Il joue ensuite pour les Capitals de Washington, les Sabres de Buffalo, les Sénateurs d'Ottawa, les Coyotes de Phoenix, puis, finalement, avec les Canadiens de Montréal. Il annonce la fin de sa carrière en 2004, après avoir joué sa douzième saison au sein de la LNH.