Воспитывался в Московском университетском благородном пансионе. Числился на службе с 1802 года, участник Отечественной войны 1812 и заграничных походов, 30 июля 1812 года Бурцев, имея 18 лет от роду, поступил в армию с чином прапорщика. 6 февраля 1813 года был определён в свиту Его Императорского Величества (впоследствии Генеральный штаб) и вскоре за тем с корпусом войск графа П. А. Толстого выступил участником сражений с французскими войсками при Дрездене, Донау, Кайтице и Плауене, а в 1814 году нёс службу близ города Гамбурга.