Während des polnisch-schwedischen Krieges (1655–1660) lehnte Guldenstern das Angebot des Schwedenkönigs Karl X. Gustav auf die schwedische Seite überzulaufen ab. Um den Monatswechsel von Februar auf März 1656 führte er die misslungene Verteidigung der Marienburg gegen Schweden an. Am 18. Oktober 1656 erhielt er vom König Johann II. Kasimir die Danziger Kastellanei und wurde somit der letzte protestantische Senator der I. Polnischen Republik.