존 애덤스
그 후 마셜은 제2대 대통령 존 애덤스 시절 대법원 장관 취임을 제안받았다. 그러나 마셜은 연방 의회 의원 선거에 출마를 선택했다. 그는 1799년에 의원으로 선출되어 1800년 6월 6일에 국무장관 에 취임했다. 그는 공해상에서 미국의 권리에 대한 방해에 반대하고 외교에 힘을 줄 수 있는 강한 해군을 만드는 정책을 채택했다.