Gerry genoot zijn opleiding aan "Harvard College", het latere Harvard University, en begon zijn politieke carrière in 1772. Tijdens de Amerikaanse Revolutie introduceerde hij een wet die Amerikaanse schepen goedkeuring gaf zich te bewapenen en tegen Britse oorlogsschepen in actie te komen. Van 1776 tot 1781 diende Gerry in het Continental Congress alwaar hij de "Declaration of Independence" ondertekende. Tijdens de Constitutional Convention in 1787 vertegenwoordigde hij zijn thuisstaat maar hij weigerde de tijdens de conventie opgestelde grondwet te ondertekenen omdat er geen "Bill of Rights" in was opgenomen.