כשהחל ג'פרסון את כהונתו כנשיא ב-1801, הוא מינה את מדיסון לתפקיד מזכיר המדינה של ארצות הברית. בתחילת כהונתו, עמד מול בית המשפט בפסק דין מרבורי נגד מדיסון, שקבע את עקרון הביקורת השיפוטית והדרישה שכל חוק שמתקבל בקונגרס חייב לעלות בקנה אחד עם החוקה. הנושא המרכזי שעמד על הפרק היה השמירה על הנייטרליות בזמן המלחמות הנפוליאוניות. רוב אירופה הייתה במלחמה, בהתחלה בין צרפת ואוסטריה. לאחר קרב אוסטרליץ ב-1805, בו צרפת ניצחה בקלות את אוסטריה, בריטניה הצטרפה למלחמה.