Natif du Massachusetts, Larry Pleau commence le hockey en junior en 1964 avec le Canadien junior de Montréal de l'Association de hockey de l'Ontario (AHO). Il passe la saison 1967-1968 avec l'équipe des États-Unis en vue des Jeux olympiques d'hiver où les américains terminent sixième. L'année suivante, il fait ses débuts professionnels avec les Devils de Jersey de l". Auteur de 81 points, le deuxième plus grand total de son équipe, il reçoit le trophée de la meilleure recrue de la Division Nord. Il porte de nouveaux les couleurs de son pays au cours de la saison à l'occasion du championnat du monde à l'issue duquel les États-Unis terminent sixième et dernier, les condamnant à la relégation dans le Groupe B. En 1969-1970, Pleau rejoint les Voyageurs de Montréal de la Ligue américaine de hockey (LAH) et dispute également vingt parties pour les Canadiens de Montréal de la Ligue nationale de hockey (LNH). Il continue de jouer pour les Canadiens durant les deux saisons suivantes.