וילסון היה נציג לועידת החוקה שהתכנסה בפילדלפיה ב-1787, שם הוא היה חבר בוועדת הפרטים, שניסחה את הטיוטה הראשונה לחוקה. הוא היה המעצב הראשי של דמותה של הרשות המבצעת ותומך גלוי בדמוקרטיה השתתפותית, ממשלה לאומית חזקה, ובייצוג ייחסי ברשות המחוקקת באופן יחסי לגודל האוכלוסייה. יחד עם רוג'ר שרמן הוא הציע את פשרת שלוש-החמישיות, שהחשיבה את העבדים כשלוש-חמישיות של אדם לצורכי חישוב הייצוג של המדינות בבית הנבחרים של ארצות הברית. בעוד שהוא העדיף שנשיא ארצות הברית ייבחר בבחירות ישירות, הוא הציע את השימוש בחבר האלקטורים, שבסופו של דבר אומץ על ידי הוועידה. לאחר הוועידה הוא קידם את תהליך האשרור של החוקה, ב"נאום חצר בית המדינה" של פנסילבניה, שהודפס בעיתונים בכל רחבי ארצות הברית, והתנגד למגילת הזכויות של ארצות הברית. וילסון גם השתתף באופן פעיל בניסוח חוקת פנסילבניה של 1790.