1792 wurde Bally Schüler im Militärhospital von Grenoble und Chirurg in den Armee-Ambulanzen. 1794 ließ er sich beurlauben, um in Montpellier den Doktorgrad zu erwerben. Anschließend war er Arzt bei der Armee in Italien, wo er der Schlacht von Marengo beiwohnte und in den Hospitälern von Antibes und Toulon arbeitete. Aus Toulon zur Armee in Spanien geschickt, erfolgte seine Beförderung zum Chef des Militärspitals von Valladolid und anschließend in Portugal zum Chefarzt im Armeekorps des General Leclerc, mit dem er sich 1802/03 zu einer Expedition nach Saint-Domingue einschiffte.