В 1831 году Шереметев участвовал в Польской войне; 11 мая разбил при Майданеке (Подольской губернии) отряд генерала Колышки «и освободил из плена генерал-майора Щучного, 1 штаб-офицера, 10 обер-офицеров, две пушки и 50 тысяч рублей и гнал поляков до Австрийской границы»; 26-го участвовал в деле при Ухоне и 28-го при Хеяме. За Польскую войну награждён орденом святого Владимира 2-й степени. 1 августа 1832 года был отчислен от должности, а 2 апреля 1833 года назначен командиром 2-й бригады 1 Лёгкой кавалерийской дивизии. 29 мая 1835 года Шереметев был уволен от службы по домашним обстоятельствам, а в 1837 году избран Нижегородским губернским предводителем дворянства. В этой должности пробыл до 18 августа 1839 года и был произведён в тайные советники.