Carpenter som hadde vært nummer to bak Ray Renfro i 1953-sesongen, valgte å gå over til Canadian Football League (CFL) i 1954 hvor han signerte med Saskatchewan Roughriders i juni. Han var en av flere NFL-spillere som forlot ligaen til fordel for Canada etter at spillernes lønninger falt. I hans første år i Saskatchewan scoret Carpenter ni touchdowns og hadde totalt 1 068 yards fra løp og pasninger. Han ledet også divisjonen i kickoff returns med et snitt på 39 yards. Roughriders endte seriespillet 10–4–2 for en andreplass i CFLS Western Division, da kjent som Western Interprovincial Football Union (WIFU). Laget nådde sluttspillet, men tapte i divisjonens semifinale.