Службу начал комнатным стольником. Принимал участие в Крымских походах и Северной войне. В сентябре 1701 года Михаил Шереметев участвовал в операции под командованием своего отца. Он руководил крупным отрядом свыше одиннадцати тысяч человек, который был нацелен на Ряпшинскую мызу. В ходе боя шведы потеряли 300 человек убитыми, 2 пушки, свыше 100 фузей. Русские потери составили 9 человек. После Нарвской конфузии это была первая победа над шведами. В Печорском монастыре была организована торжественная встреча. Секретарь австрийского посольства Иоганн Георг Корб писал в «Дневнике путешествий в Московию 1698 и 1699»: «Наперед везли полон, за полоном везли знамёна, за знамёнами пушки, за пушками ехали полки, за полками ехал он, "Михайла Борисович". А в то время у Печерского монастыря на всех раскатах и на башнях распущены были знамёна, также и во всех полках около Печерского монастыря, и на радости была стрельба пушечная по раскатам и по всем полкам, также из мелкого ружья».15 июля 1704 года по указу Петра I майор Шереметев под городом Дерптом принял командование Астраханским полком у подполковника П. П. Гасениуса. 29 июня 1706 года произведён в полковники.