ב-1821, היה פילמור בן עשרים ואחת ועצמאי. הוא לימד בבית ספר, וקיבל כמה תיקים בבתי משפט השלום, שלא דרשו רישיון לעריכת דין. הוא עבר לבאפלו כעבור שנה, המשיך ללמוד משפטים, בהתחלה כשהמשיך בעבודתו כמורה, ולאחר מכן במשרד עריכת דין. הוא התארס לאביגייל. ב-1823, הוסמך לעריכת דין ודחה הצעות ממשרדים כדי להפוך לעורך הדין היחיד בעירו. מאוחר יותר, טען שלא היה לו הביטחון לעבוד בבאפלו הגדולה. פילמור נהנה מהעצמאות שהשיג במשרדו. ב-5 בפברואר 1826, התחתן עם אביגייל. נולדו להם שני ילדים, מילרד פאוורס פילמור (1828–1889) ומרי אביגייל פילמור (1832–1854).
פוליטיקאי בבאפלו.
בני משפחת פילמור היו פעילים בפוליטיקה ובממשלה. סבו של מילרד, נתנאל פילמור האב, שירת בתפקידים מקומיים באזור מגוריו. בנוסף לכך שאביו היה שופט בית משפט השלום, דודו של פילמור, קלווין, היה באספה הכללית של מדינת ניו יורק, ודודו השני, סיימון, היה מפקח העיר בקלארנס, ניו יורק. גם מילרד התעניין בפוליטיקה, ועליית המפלגה המתנגדת לתנועת הבונים החופשיים בסוף שנות העשרים הובילה לכניסתו לנושא.
המתנגדים לבונים החופשיים התנגדו למועמדותו של הגנרל אנדרו ג'קסון, בונה חופשי, לנשיאות. פילמור היה ציר בוועידה בניו יורק שתמכה בנשיא ג'ון קווינסי אדמס, וגם היה ציר בשתי ועידות של המפלגה בקיץ 1828. פילמור נבחר לאספה הכללית של ניו יורק במשך שלוש כהונות בנות שנה, בין 1829 ל-1831. הוא נבחר ב-1828, למרות ניצחונה של המפלגה הדמוקרטית של ג'קסון שניצחה ברוב מערכות הבחירות בשנה זאת, והיו הרוב באלבני, כך שפילמור היה במיעוט באספה. למרות זאת, הוא הצליח להעביר חקיקה שאפשרה לעדים בבתי משפט להישבע להגיד את האמת ולא להישבע שבועה דתית, וב-1830 ביטל חוק שאפשר מאסר בשל חוב. רוב עסקיו בעריכת דין היו בבאפלו והוא עבר לשם עם משפחתו. הוא לא ניסה להיבחר שוב ב-1831.
פילמור הצליח כעורך דין. באפלו התרחבה במהירות, והתאוששה מהשרפה הבריטית במלחמת 1812 בשל כריית תעלת אירי. פילמור ייצג נאשמים רבים, והתבלט כעורך דין בבאפלו. הוא שכר את ניית'ן הול כפקיד, והול הפך לידידו ולמזכיר הדואר שלו כשהפך לנשיא. באפלו הייתה כפר באופן חוקי כשפילמור הגיע לשם, לאחר שהחוק להפיכת באפלו לעיר עבר במועצה המחוקקת, הוא סייע לפיתוח העיר. הוא הקים את איגוד התיכונים של העיר, ונכח בכנסייה היוניטארית של העיר. הוא היה פעיל במיליציה של ניו יורק והשיג דרגת מייג'ור בבריגדה שלו.
חבר קונגרס.
כהונה ראשונה; חזרה לבאפלו.
אף על פי שפילמור פרש מהמועצה המחוקקת ב-1831, הוא לא נשאר מחוץ לפוליטיקה. ב-1832 נבחר לבית הנבחרים. התובע הכללי לשעבר ויליאם וירת', המועמד הנשיאותי שהתנגד לבונים החופשיים, ניצח רק בוורמונט והנשיא ג'קסון נבחר בקלות לכהונה שנייה. באותה התקופה, הקונגרס התכנס רק בדצמבר, ולכן נאלץ פילמור לחכות יותר משנה כדי להתחיל את כהונתו. פילמור ואחרים הבינו שהתנגדות לבונים החופשיים לא יכולה ליצור מפלגה לאומית, והחליטו לקבץ רפובליקנים לאומיים, מתנגדים לבונים החופשיים ודמוקרטים פורשים כנציגי המפלגה הוויגית. הוויגים התאחדו כנגד ג'קסון, אולם הפכו למפלגה מרכזית כשהחלו לתמוך בצמיחה כלכלית בעזרת מתן זיכיון לבנק השני של ארצות הברית, ומימון ממשלתי ל"שיפורים פנימיים" כולל כבישים, גשרים ותעלות. מתנגדי העבדות, כמו ויליאם סיוארד, שלטו במפלגה, בניגוד לפילמור, שלא ראה את הממשלה כיכולה להתערב בעבדות.
בוושינגטון, תמך פילמור בהרחבת מזח באפלו, ולחץ על הרחבת תעלת אירי. פילמור זכה לתשומת לבו של הסנאטור דניאל ובסטר, שהפך למורו. פילמור הפך לתומכו ומערכת יחסים קרובה בין השניים נמשכה עד למותו של ובסטר לקראת סוף כהונתו של פילמור. אף על פי שתמך בבנק השני, הוא לא נאם במהלך הדיונים לחידוש הזיכיון של הבנק. פילמור תמך בבניית תשתיות, כולל בניית גשר מעל נהר הפוטומק ושיפור התנועה בנהר הדסון.
ההתנגדות לבונים החופשיים הייתה חזקה במערב ניו יורק, וכשמתנגדי הבונים החופשיים סירבו לבחור בו לכהונה שנייה ב-1834, סירב פילמור להיות המועמד הוויגי, בטענה שפיצול יגרום להיבחרו של מועמד דמוקרטי. הוא החל להתעמת מול סיוארד במפלגה המקומית, לאחר שסיוארד נכשל בניסיונו להיות מושל המדינה. פילמור עסק בעריכת דין וחיזק את המפלגה, שספגה בהדרגה את רוב מתנגדי הבונים החופשיים. ב-1836, היה פילמור בטוח מספיק באחדות מתנגדיו של ג'קסון והסכים להתמודד מטעם הוויגים לקונגרס. הדמוקרטים, שהובלו בידי המועמד הנשיאותי, סגן הנשיא מרטין ואן ביורן, ניצחו ברחבי המדינה ובניו יורק, מדינתו של ואן ביורן, אולם ניו יורק המערבית בחרה בפילמור כנציגה בבית הנבחרים.
כהונה שנייה, שלישית ורביעית.
ואן ביורן, שנאלץ להתמודד עם בהלת 1837, שנגרמה בגלל חוסר ביטחון באיגרות חוב של בנקים לאחר שהנחה ג'קסון על הממשלה לקבל תשלום רק בזהב ובכסף, כינס מושב מיוחד של הקונגרס. הכסף הממשלתי הוחזק בבנקים מקומיים מאז שג'קסון הוציא אותו מהבנק השני. ואן ביורן הציע לשים חסכונות בקרנות של האוצר, שלא ילוו כספים. פילמור הרגיש שהמשאבים הממשלתיים צריכים לפתח את המדינה, והרגיש שאספקת הזהב המוגבלת של המדינה לא תהיה סחירה בשל כך. ואן ביורן הצליח להעביר את תוכניותיו הכלכליות, אולם המשבר המשיך, והוויגים זכו לתמיכה רחבה בבחירות של 1837, כשהשיגו רוב באספה הכללית של ניו יורק. הדבר הוביל למאבק על המועמדות לתפקיד מושל ניו יורק ב-1838. פילמור תמך בפרנסיס גריינג'ר, מועמד לתפקיד סגן הנשיא ב-1836. אחרים תמכו בסיוארד. פילמור כעס כשסיוארד ניצח אולם תמך בו, וסיוארד נבחר. פילמור נבחר לכהונה נוספת בבית הנבחרים.
היריבות בין פילמור וסיוארד הושפעה מצמיחת התנועה לביטול העבדות. פילמור לא תמך בעבדות, אולם לא ראה אותה כנושא פוליטי. סיוארד שנא את העבדות והבהיר בתור מושל שלא יחזיר לדרום עבדים שברחו אל המדינה. ב-1839, סירב סיוארד למנות את פילמור לתפקיד סגן שופט מחוזי בניו יורק.
פילמור היה פעיל בהחלטה על בחירת המועמד הוויגי בבחירות של 1840. הוא תמך בגנרל וינפילד סקוט, אולם רצה שהמפלגה תדחה את הסנאטור מקנטקי, הנרי קליי, בעל עבדים שהרגיש שלא יוכל לנצח בניו יורק. פילמור לא נכח בוועידה, אולם שמח כשהוועידה בחרה בגנרל ויליאם הנרי הריסון לנשיאות, כשסגנו הוא הסנאטור לשעבר מוירג'יניה, ג'ון טיילר. פילמור ארגן את המפלגה בניו יורק, הריסון ניצח שם, ופילמור נבחר בקלות לכהונה רביעית בבית הנבחרים.
בהוראת הסנאטור קליי, כינס הריסון מושב מיוחד של הקונגרס. הוויגים שלטו בבית הנבחרים בפעם הראשונה, ופילמור רצה להיות יושב הראש. קליי מנע זאת ממנו, אולם פילמור מונה ליושב ראש הוועדה לענייני מיסים. ציפו שהריסון יסכים להצעותיהם של קליי ומנהיגי המפלגה, אולם הוא מת ב-4 באפריל 1841, וסגן הנשיא טיילר הפך לנשיא. טיילר היה דמוקרט בעברו, והתנגד להצעות קליי להקמת בנק לאומי. הוא הוצא מהמפלגה הוויגית. פילמור תמך במפלגתו, והעביר את המכס של 1842. המכס הישן לא הגן על ייצור, וחלק מההכנסה בו הועברה למדינות, והייתה נחוצה לקופת המדינה הריקה. פילמור הכין חוק להעלאת שיעורי המכס. החוק זכה לאהדה במדינה, אולם העובדה שהעביר את הכסף לקופת המדינה הובילה את טיילר להטיל עליו וטו. ועדה בהנהגת ג'ון קווינסי אדמס גינתה אותו. פילמור הכין חוק שני, ללא העברת הכסף לקופת המדינה, והפעם טיילר חתם עליו, אולם בודד את עצמו מבעלי בריתו הדמוקרטים. כך הצליח פילמור להעביר את החוק ולבודד את טיילר מבחינה פוליטית.
המכס העלה את האהדה לפילמור, אולם ביולי 1842 החליט לא לנסות להתמודד שוב. הוויגים בחרו בו בכל מקרה, אולם הוא סירב, כשנמאסו עליו החיים בוושינגטון והעימות מול הנשיא טיילר. הוא חזר לעריכת דין בבאפלו לאחר סיום כהונתו באפריל 1843. הוא הפך לדמות פוליטית בולטת.
דמות לאומית.
כשעזב את תפקידו, המשיך פילמור בעריכת דין ושיפץ את ביתו בבאפלו. הוא המשיך להיות דמות פוליטית מובילה, וערך את טקס קבלת הפנים לג'ון קווינסי אדמס בבאפלו, שם הנשיא לשעבר הביע את צערו על כך שפילמור כבר לא בקונגרס. רבים דרשו מפילמור להיות סגנו של קליי בבחירות של 1844 - הוראס גרילי תמך בו - ואחרים דרשו שינסה להיות המושל. פילמור רצה להיות סגן הנשיא.
הוא קיווה לזכות לתמיכת המפלגה בניו יורק, אולם תומכי סיוארד רצו שהוא יבחר, ושפילמור יהיה המושל. סיוארד פרש לפני כן. למרות זאת, ניסו תומכיו של סיוארד לשכנע את פילמור להפוך למושל. לאחר שקליי נבחר להיות המועמד הנשיאותי, נבחר תאודור פרלינגהויסן, סנאטור מניו ג'רזי, להיות סגנו.
פילמור תמך בקליי ובפרלינגהויסן וסירב להתמודד לתפקיד המושל. הוא נחשב למועמד וויגי מקובל כיוון שהתנגד לעבדות אולם התנגד למעורבות ממשלתית בנושא. למרות התנגדותו, טען פילמור שלוועדה הוויגית הלאומית יש זכות לבחור כל מועמד לשירות פוליטי, והוא נבחר להיות המועמד לתפקיד המושל.
הדמוקרטים בחרו בג'יימס פולק כמועמדם הנשיאותי ובסילאס רייט, סנאטור, כמועמדם לתפקיד המושל. פילמור הצליח להשיג תמיכה בקרב גרמנים-אמריקנים, אולם העובדה שהוויגים תמכו בראש עיר נייטיביסטי, והאשימו את הקתולים בתבוסתו, פגעה בו בקרב המהגרים. גם קליי נוצח.