48 år gammel giftede Gyldenstierne sig med Anne Sparre, datter af rigsråd Mourids Jepsen Sparre til Svaneholm i Skåne. Han blev samtidig lensherre på Malmøhus. Ved list lykkedes det i 1534 malmöborgerne med borgmester Jørgen Kock i spidsen, at lægge beslag på slottet og Gyldenstierne blev taget til fange. Det blev optakten til grevens fejde, en blodig borgerkrig som varede til 1536. Efter krigen blev Gyldenstierne som rigsråd en betydende mand, ikke mindst i Skåne. I 1543 var han blevet admiral for en stor dansk flåde på 40 skibe, der sejlede i Nordsøen i kamp mod hollænderne. Gyldenstiernes dagbog fra togtet er bevaret, skrevet med runer. I 1555 blev Gyldenstierne indsat som statholder i København. I begyndelsen af den nordiske syvårskrig, i 1563, blev den nye kong Frederik II mere og mere misfornøjet med sin aldrende statholder, som blev afløst i 1566.