Во время войны с французами в 1806 году Бороздин служил в киевской милиции, в Чигиринском повете, поветовым начальником, под командой князя А. А. Прозоровского, а затем перешёл в гражданскую службу с военным чином и Высочайшим указом 2 ноября 1807 года назначен Таврическим гражданским губернатором; 12 марта 1809 года награждён орденом Св. Анны 1-й степени. Высочайшим указом 20 февраля 1812 года, ему было повелено присутствовать в Правительствующем сенате, с оставлением при занимаемой им должности губернатора.