До начала открытых сражений с французами Граббе был командирован Барклаем-де-Толли в качестве парламентера во французскую армию с тайным поручением разузнать о месте главной французской армии и численности её. Это рискованное поручение было блестяще исполнено Павлом Христофоровичем, причем он лично доложил Государю о результате своих наблюдений. При дальнейшем развитии военных действий Граббе участвовал в сражениях при Смоленске, а 6 августа, когда положение части русской армии было весьма критическим благодаря беспорядочному отступлению и напору французских войск, Граббе восстановил порядок, приказав бить сбор и собрав вокруг себя большое количество солдат, вышел с ними на дорогу, двинулся навстречу неприятельской армии и, став в виду неприятеля, прикрыл отступление остальной армии. За участие в этом деле Граббе получил впоследствии Георгиевский крест 4-го класса, а впоследствии и алмазные знаки к ордену св. Анны 2-й степени. Продолжая состоять адъютантом генерала Ермолова, а потом генерала Милорадовича, Граббе участвовал во всех значительных сражениях Отечественной войны, в том числе в сражении под Витебском, при Бородино (орден св. Анны 2-й степени, 22 сентября 1812 г.), Тарутине (орден св. Владимира 4-й степени с бантом, 25 февраля 1813 г.), Малоярославце (за отличие произведён в штабс-капитаны), под Вязьмой и Красным. По отступлении Наполеона Граббе был командирован в партизанский отряд Вальмодена, с которым участвовал в набегах, произведенных на разбросанные части французской армии. В 1814 году Граббе участвовал в походе во Францию и 18 мая 1814 г. получил чин капитана.