Фёдор Ефимович Шварц начал службу в 1797 году прапорщиком Псковского гарнизонного батальона. Затем был переведён в армию: сначала служил в Кекскгольмском пехотном полку, позднее — в Перновском. В составе последнего участвовал в кампаниях 1805 и 1806—1807 годов. Был ранен, удостоен ряда орденов и награждён золотым оружием. В 1809 году был переведён в гренадерский графа Аракчеева полк в чине майора, командовал батальоном. Участвовал в сражении при Валутиной Горе. Во время Бородинского боя «с начала сражения находился под выстрелами, ободрял людей, потом, когда 1 батальон пошёл отбивать батарею от неприятеля, то другая неприятельская колонна из лесу хотела ударить в тыл, по чему он с батальоном ударил на нею в штыки и опрокинул оную в бегство», за что был награждён орденом Св. Владимира 4-й степени с бантом.