Barclay de Tolly trådte tidlig inn i Den keiserlige russiske hær, som på den tiden hadde et hovedsakelig tyskspråklig offiserskorps, og han deltok i krigene mot Det osmanske rike (1788–1789), Sverige og Polen (1790 og 1794). I 1798 ble han utnevnt til oberst og i 1799 ble han befordret til generalmajor.