Depuis les années 1870, on retrouve des équipes de football à Ottawa. Parmi ces équipes, on compte le "Canadian Rugby Union", championne en 1898, en 1900 et en 1902. Le nom de « Rough Riders » apparaît en 1898, quand un déplore la rudesse de leur jeu lors d'un match contre l'équipe locale: on les décrit comme des « cavaliers endurcis » en référence à la fameuse charge du régiment de Teddy Roosevelt à la colline de San Juan, à Porto Rico, au cours de la guerre hispano-américaine. L'équipe alterne entre l"'Ontario Rugby Union" et celle du Québec jusqu'en 1907, quand elle rejoint Montréal, Toronto et Hamilton au sein d'une ligue interprovinciale connue sous le nom de "Big Four". Suivant sa fusion avec l'équipe de St. Bridget, elle s'apparente le nom des "Senators" en 1925 et 1926, lorsqu'elle remporta la Coupe Grey, pendant deux années consécutives. L'équipe reprend le nom de Rough Riders en 1927, nom qu'elle retiendra jusqu'à sa disparition après la saison de football de 1996.