10 мая 1810 года, оправившись от ран, Баумгартен был назначен командиром Пермского мушкетёрского полка, который состоял в 5-й пехотной дивизии, вошедшей после начала Отечественной войны в состав корпуса П. X. Витгенштейна. В этой кампании Баумгартен сражался с французами под Вилькомиром, Якубовым и под Клястицами, где за отличие был произведён в подполковники (со старшинством от 18 октября 1812 года). 5 августа 1812 года он в бою под Полоцком получил пулевую рану в левый бок навылет и был отправлен на лечение в Великие Луки. По возвращении к полку участвовал при взятии Полоцка и снова был ранен пулей в левую ногу, но остался в строю и сражался с французами под Чашниками и на Березине, за что 11 февраля 1813 года был произведён в полковники. Затем он участвовал в занятии Варшавы и перешёл прусскую границу, где отличился при взятии Берлина.