Rousseau spielte während seiner Juniorenzeit bei den Hull-Ottawa Canadiens in der Ontario Hockey Association und gewann an der Seite von Ralph Backstrom und J. C. Tremblay 1958 den Memorial Cup. Trainer des Teams war Scotty Bowman. Mit diesem Team machte er auch seine ersten Erfahrungen im Seniorenbereich. Bei den Olympischen Spielen 1960 in Squaw Valley spielte er für die kanadische Nationalmannschaft zusammen mit Harry Sinden und gewann für sein Land die Silbermedaille.