Начал военную службу в австрийской армии, был полковым товарищем и другом князя Юзефа Антония Понятовского, также служившего в австрийской армии. Участник австро-турецкой войны (1787—1791), в 1788 году был ранен в бою под крепостью Шабац. Вместе Михаил Виельгорский и Юзеф Понятовский вернулись на родину и поступили на службу в польскую армию. Михаил Виельгорский был назначен бригадиром 2-й украинской кавалерийской бригады в чине полковника.