Marcy ble i mars 1845 utnevnt til landets neste krigsminister av president James K. Polk, en stilling han beholdt ut hele Polks periode, før han deretter igjen returnerte til sin egen advokatpraksis. Han stilte som demokratenes presidentkandidat i forkant av presidentvalget i 1852, men måtte se seg slått av Franklin Pierce. I mars 1853 ble Marcy utnevnt til landets neste utenriksminister av den nyvalgte presidenten Franklin Pierce. I ly av å være utenriksminister forhandlet han igjennom Gadsden-avtalen, som gav USA ytterligere 76 800 km² med landareal og som gjorde det mulig å bygge en transkontinental jernbane.