Jim Cummins spielte zunächst in der Saison 1987/88 für die "Detroit Compuware Ambassadors" in der North American Hockey League. Anschließend begann er ein Studium an der Michigan State University und ging in den folgenden drei Jahren für deren Eishockeymannschaft, die "Spartans", in der Central Collegiate Hockey Association aufs Eis. Während dieser Zeit wurde zwei Mal, 1989 und 1990, die Meisterschaft der CCHA errungen. Außerdem wurde Cummins beim NHL Entry Draft 1989 in der vierten Runde an insgesamt 67. Position von den New York Rangers ausgewählt. Vor Abschluss seiner Universitäts-Laufbahn wurde er jedoch im März 1991 als Teil eines Tauschgeschäfts zu den Detroit Red Wings transferiert. Für diese gab er in der &lt;a href="NHL%201991/92"&gt;Saison 1991/92&lt;/a&gt; sein Debüt in der National Hockey League, verbrachte den Großteil der Spielzeit allerdings im Farmteam bei den Adirondack Red Wings in der American Hockey League, wo Cummins seine Rolle als Enforcer ausfüllte. Seine 338 Strafminuten in 65 Partien der regulären Saison waren die zweitmeisten im Team und die viertmeisten der Liga. In derselben Saison gewann er mit Adirondack den Calder Cup und kam in fünf Playoff-Spielen für das Team zum Einsatz. Auch das folgende Spieljahr war der US-Amerikaner im AHL-Farmteam der Detroit Red Wings gesetzt, kam allerdings auch zu sieben NHL-Einsätzen für das Team aus Hockeytown.