Ken Yaremchuk begann seine Karriere bei den Portland Winter Hawks, für die er von 1980 bis 1983 in der Western Hockey League spielte. In dieser Zeit wurde er während des NHL Entry Draft 1982 in der ersten Runde als siebter Spieler von den Chicago Blackhawks ausgewählt, für die er drei Jahre lang in der National Hockey League spielte. Zudem wurde er sieben Mal bei den Milwaukee Admirals in der International Hockey League eingesetzt. Am 6. September 1986 verpflichteten ihn die Toronto Maple Leafs zusammen mit Jérôme Dupont und Chicagos Viertrundenwahlrecht im NHL Entry Draft 1987, da die Blackhawks zuvor Torontos Gary Nylund als Free Agent verpflichtet hatten.