Sweeney begann seine Karriere im Jahr 1982 am Boston College. Dort spielte er für die Eishockeymannschaft in den US-amerikanischen Collegeligen ECAC Hockey und Hockey East. Während des NHL Entry Draft 1982 wurde er von den Verantwortlichen der Boston Bruins in der sechsten Runde an insgesamt 123. Position ausgewählt. Nach einer Studienzeit von vier Jahren beendete der US-Amerikaner sein Studium im Sommer 1986 und wechselte anschließend in die National Hockey League zu den Boston Bruins. Die Bruins setzten ihn zunächst in deren damaligen Farmteam, den Moncton Golden Flames, in der East Coast Hockey League ein. Ab der &lt;a href="NHL%201987/88"&gt;Saison 1987/88&lt;/a&gt; gehörte er dem Stammkader der Bruins an.