Rivet spielte zunächst ab der Saison 1991/92 bei den Kingston Frontenacs in der Ontario Hockey League (OHL). Nach seinem ersten Jahr wurde er im NHL Entry Draft 1992 von den Canadiens de Montréal in der dritten Runde an 68. Position ausgewählt. Er blieb den Frontenacs aber noch zwei weitere Spielzeiten treu und erzielte in insgesamt drei Spielzeiten 164 Punkte. Nach dem Ausscheiden in den Playoffs in der Saison 1993/94 mit den Frontenacs, bestritt er im Anschluss vier Spiele für die Fredericton Canadiens, dem AHL-Farmteam der Canadiens de Montréal.