Malgré sa santé défaillante et son aversion pour les voyages, Mason part en 1786 pour la Convention fédérale de Philadelphie en tant que représentant de la Virginie. De mai à septembre 1787, il travaille à la création de la Constitution. Cependant, il refuse de signer ce document, principalement en raison de l’omission de la déclaration des droits au sein de celui-ci. Après la fin de la Convention, il continue à se battre pour l’adjonction de cette déclaration, ce qui lui coûte sa longue amitié avec George Washington. Il refuse, toujours pour des raisons de santé, une place au Sénat et, finalement le , l’U.S. Bill of Rights est ajouté à la Constitution sous la forme de dix amendements.