Samen met James Madison, John Dickinson en zijn goede vriend George Washington zocht hij naar wegen om de politieke en economische problemen op te lossen die ontstaan waren onder de zwakke Artikelen van Confederatie. Hij bezocht de "Mount Vernon Conferentie", een bijeenkomst die voorafging aan de Constitutional Convention. Daar was Jenifer ook bij aanwezig. Vanwege zijn ouderdom moest hij zijn activiteiten beperken. Zelf was hij voorstander van een centrale overheid met veel macht die voor financiële en economische stabiliteit kon zorgen. Hij vond dat het Congres de macht moest hebben om belasting op te leggen. Om de continuïteit te waarborgen was hij er voorstander van leden van het Huis van Afgevaardigden voor een periode van drie jaar te kiezen, in plaats van twee jaar. Te veel verkiezingen zouden volgens hem tot onverschilligheid leiden en de weinig prominente personen die zich verkiesbaar zouden stellen. De Convention koos uiteindelijk voor een periode van twee jaar. Na het aannemen van de Grondwet was Jenifer een van de ondertekenaars.