Військова кар'єра почалася в Фінляндії, де він брав участь у російсько-шведській війні 1741—1743 років. Отримав чин капітана. Був відправлений батьком у Петербург до імператриці з приємною звісткою про Абоську мирну угоду. Дочка Петра І, імператриця Єлизавета І, що знала перекази про батьківство Петра Рум'янцева, зраділа звістці й дарувала молодику одразу чин полковника. Наказом імператриці його роблять командиром Воронезького піхотного полку.