Året etter gikk han inn i tjeneste for kongen av Preussen, hvor han først ble satt til å utføre diplomatiske oppgaver før han ved årsskiftet 1722–1723 fikk kommandoen over et infanteriregiment. I 1730 var han som generalmajor medlem av krigsretten som stilte kronprins Fredrik for rettergang etter at han hadde forsøkt å desertere. I 1733 avgjorde han for øvrig striden i Mecklenburg som øverste leder for den prøyssiske hæren. I 1734 ble han ytterligere forfremmet til generalløytnant, og i 1739 ble han general for infanteriet. I løpet av regjeringstiden til Fredrik Vilhelm I var Schwerin også involvert i mye administrativt arbeid.