Der Wechsel in seine eigentliche Heimat wurde am 12. Juni 1741 vollzogen. So wurde Schmettau preußischer Generalfeldmarschall, ohne zuvor in Preußen eine Truppe geführt zu haben. Zunächst zeichnete er sich als Sonderbotschafter aus, indem er Anteil an dem Geheimvertrag mit Österreich von Klein-Schellendorf hatte (zusammen mit Karl Joseph von Gillern). Am 18. Januar 1742 wurde Schmettau der Schwarze Adlerorden verliehen. Er vertrat in der Folgezeit die preußischen Interessen bei Kaiser Karl VII., was ihm sogar den Reichsgrafenstand einbrachte. Als Gesandter in Paris bereitete er den 2. Schlesischen Krieg mit vor. Die diplomatische Verwendung hatte ein Ende, als ihm von den Österreichern geheime Dokumente gestohlen wurden, die später veröffentlicht wurden.