Thomas Ross a rejoint les Montreal Rifles à l'âge de en tant que soldat et fut, plus tard, promu au grade de caporal. Il fut appelé pour le service actif dans la foulée de la Rébellion du Bas-Canada en 1838 et 1839. Il resta en service actif jusqu'à la dissolution de l'unité en . En 1861, il rejoint les Civil Service Rifles en tant que soldat et atteint le grade de sergent. Par la suite, il a rejoint l'Ottawa Brigade Garrison Artillery en tant qu'officier. Avec celle-ci, il servit dans le cadre des raids féniens et de la rébellion du Nord-Ouest.