ב-1918, נבחר לונג לוועדת מסילות הרכבת בלואיזיאנה (שהפכה לוועדה לשירות הציבור בלואיזיאנה ב-1921) בגיל עשרים וחמש, כשהתנגד לסטנדרד אויל. במסע הבחירות שלו השתמש בשיטות שהצליח להתמקצע בהן לאחר מכן: שימוש בעלונים ובכרזות, לוח זמנים עמוס בנאומים בלואיזיאנה הכפרית, והתקפות חריפות על יריביו. בתפקידו השתמש כדי לחזק את המוניטין הפופוליסטי שלו כמתנגד לתאגידים הגדולים ולתאגידי הנפט, כשהוא נלחם מול העלאת תעריפים ומונופולים. במהלך הבחירות לתפקיד מושל לואיזיאנה ב-1920, תמך בג'ון פארקר, אולם לאחר מכן הפך ליריבו כשהמושל החדש התברר כלא מחויב לרפורמה, וקרא לו כלי שרת של התאגידים.
ב-1922, כיושב הראש של הוועדה לשירות הציבור, זכה בתביעה נגד איגוד הטלגרף על העלאת תעריפים לא הוגנת, והשיג 440,000 דולר שהוחזרו ל-80,000 לקוחות. לונג הצליח להגן על הנושא בבית המשפט העליון של ארצות הברית, ונשיא בית המשפט, ויליאם הווארד טאפט, תיאר אותו כאחד המוחות המשפטיים המבריקים ביותר שבהם פגש.
בחירות 1924.
לונג רץ לתפקיד מושל לואיזיאנה ב-1924, תקף את פארקר, את סטנדרד אויל ואת הממסד הפוליטי המבוסס במדינה. במסע הבחירות שלו, הפך לאחד מהפוליטיקאים הדרומיים הראשונים שהשתמשו ברדיו ובמשאיות כריזה. לונג החל ללבוש חליפה לבנה בולטת במיוחד. הוא הגיע למקום השלישי, ואף על פי שהוא ומועמד אחר התנגדו באופן פרטי לארגון הקו קלוקס קלאן העוצמתי, מועמד שלישי תמך בו בפתיחות. שליטת הקלאן בלואיזיאנה הייתה חשובה במהלך מסע הבחירות. לונג טען שהגשם במהלך יום הבחירות גרם לאחוזי הצבעה נמוכים בקרב תומכיו בצפון לואיזיאנה הכפרית,כי דרכי העפר כוסו בבוץ והבוחרים לא יכלו להגיע לקלפי.
למרות זאת, נבחר לונג מאוחר יותר באותה השנה לכהן שוב בוועדה לשירות לציבור.
בחירות 1928.
בארבע השנים הבאות, בנה לונג את בסיס כוחו הפוליטי, ואף תמך במועמדים קתוליים כדי להשיג תמיכה בדרום לואיזיאנה, שהייתה קתולית בגלל ההשפעה הספרדית והצרפתית. ב-1928 שוב ניסה להיבחר לתפקיד המושל, והשתמש בססמה "כל אדם הוא מלך, אך אף אחד לא לובש כתר". השורה הגיעה מהמועמד הנשיאותי לשעבר של המפלגה הדמוקרטית, ויליאם ג'נינגס ברייאן. ההתקפות של לונג על התאגידים הגדולים זכו לאהדה, וגם ההצגה שלו את העשירים כ"טפילים" שהשיגו יותר ממה שהם היו זקוקים לו מהעושר הציבורי, שהזניחו את העניים.
לונג חצה את המדינה, וניהל מסע בחירות באזורים שהממסד הפוליטי נטרל. הם שלטו במדינה בבריתות עם פוליטיקאים מקומיים. העניים הכפריים היו 60% מהאוכלוסייה. בכל המדינה היו בערך 500 קילומטרים של דרכים סלולות ורק שלושה גשרים גדולים. המדינה הייתה בעלת אחוז יודעי קרוא וכתוב הנמוך ביותר בארצות הברית (75% מהאוכלוסייה לא ידעה לקרוא ולכתוב), ורוב המשפחות לא יכלו לרכוש ספרים כדי שילדיהם ילמדו בבית הספר. לבנים עניים רבים לא יכלו להצביע כי לא יכלו לשלם את המס על הבחירות. מבין שני מיליון תושבים, רק 300,000 יכלו להצביע. בנוסף, לאחר העברת חוקה חדשה ב-1898, ומבחני קרוא וכתוב, השחורים לא יכלו להצביע.
במסע הבחירות שלו, הציע לונג לבנות גשרים, ושני המועמדים האחרים תמכו בכך. לונג תמך בכך שלא תיגבה אגרה על מעבר בגשרים.
לונג נבחר ב-1928 בזכות האוכלוסייה הכפרית. הוא הציע שירותים ממשלתיים רחבים יותר מאי פעם, וזכה לתמיכת הקתוליים.
ב-17 בינואר 1928, נבחר להיות המועמד הדמוקרטי אולם השיג רק 43.9% מהקולות. התמיכה הגדולה לה זכה גרמה לכך שהמפלגה התאחדה מאחוריו, והוא נבחר להיות המושל ב-17 באפריל 1928, עם 96% מהקולות.
לונג איחד מסביבו את הדמוקרטים של ניו אורלינס וזכה לתמיכת רבים מתוכם.
רבים טענו שלאחר היבחרו של לונג, הכוח הפוליטי בלואיזיאנה עבר לחקלאים ולפשוטי העם, בניגוד למצב לפני כן, בו אנשי העסקים ובעלי המטעים היו השליטים.
התובע הכללי, פרסי סיינט, נבחר להיות התובע הכללי של לואיזיאנה, ופעמים רבות פסק כנגד לונג.
מושל, 1928-1932.
כשנכנס לתפקידו ב-21 במאי 1928, פיטר לונג מאות יריבים פוליטיים בממשל, בכל הדרגים. כמו מושלים אחרים, מינה מינויים פוליטיים שיחליפו אותם. כל עובד שרצה ממנו עבודה נאלץ לשלם חלק ממשכורתו למסע הבחירות של לונג, שגייס בערך מיליון דולרים בכל מסע בחירות. לונג ביסס משטר סמכותני בלואיזיאנה, שהיה הקרוב ביותר לדיקטטורה בכל ארצות הברית.
לאחר שחיזק את שליטתו במדינה, העביר מספר חוקים במועצת המדינה. החוקים סיפקו ספרי לימוד בחינם לילדים, שיעורי ערב כדי להקטין את רמת הבערות (100,000 בוגרים למדו לקרוא עד לסיום כהונתו) ואספקת דלק טבעי וזול בחינם לניו אורלינס.
לונג החל בתוכנית עבודות ציבוריות חסרת תקדים, ובנה כבישים, גשרים, בתי חולים ובתי ספר. מחוקקים רבים, אזרחים עשירים והתקשורת התנגדו לכך. הוא השתמש בטקטיקות אגרסיביות כדי להעביר את החקיקה. הוא הופיע ללא הכרזה בבית הנבחרים ובסנאט של המדינה, ולחץ על מתנגדיו. רוב הבטחות הבחירות שלו עברו. לונג נחשב לגיבור בקרב האוכלוסייה הכפרית והענייה.
כשלונג הצליח להעביר את חוק ספרי הלימוד הראשון שלו, סירב בית ספר שמרן לספק את הספרים, בטענה שלא יקבל "צדקה" מהמדינה. לונג החליט למקם בסיס חיל אוויר קרוב לבית הספר עד שבית הספר קיבל את הספרים.
ניסיון הדחה.
ב-1929, כינס לונג מושב מיוחד של המועצה המחוקקת של לואיזיאנה כדי להטיל מס על הפקת נפט, למימון תוכניותיו החברתיות. מפיקי הנפט התנגדו לכך, ובית הנבחרים החליט לנסות להדיח אותו, באישומים של שחיתות, לקיחת שוחד ומעילה בכספי המדינה. לונג ניסה להפסיק את הכינוס, אולם לאחר קטטה פיזית במועצה המחוקקת, המועצה החליטה להמשיך בהליך ההדחה.
לונג נאם בפני העם במהלך הליך ההדחה. הוא הפיץ עלונים רבים ברחבי המדינה, וטען שהשמרנים, התאגידים ואילי הנפט מנסים למנוע ממנו לספק כבישים, ספרים ותוכניות אחרות לרווחת העניים. בית הנבחרים העביר אישומים רבים לאישור הסנאט. היה צורך ברוב של שני שלישים לשם ההדחה, אולם לונג הצליח לשכנע חמישה עשר סנאטורים לא לתמוך בהליך, בטענה שהמשפט היה בלתי חוקי, ושהאישומים לא הצדיקו הדחה. ההליך הופסק. הטענה הייתה ששני הצדדים השתמשו בשוחד כדי לקנות קולות, ושלונג נתן לסנאטורים שתמכו בו אתנן פוליטי.
לאחר ניסיון ההדחה הכושל, החל לונג להיות אגרסיבי יותר מול יריביו. הוא פיטר את קרובי משפחתם מעבודותיהם בשירות הציבורי ותמך במועמדים חלופיים. לאחר ניסיון ההדחה, החליט לונג להשתמש בשיטות קיצוניות אף יותר כדי להגן על פשוטי העם מול בעלי העסקים. עיתוני המדינה היו במימון האופוזיציה, ובמרץ 1930 הקים לונג עיתון משלו, "הלואיזיאנה פרוגרס", שבו הציג את הישגיו וגינה את יריביו. כדי להשיג חוזים עם הממשל, התאגידים נאלצו לפרסם בעיתון. לונג ניסה להעביר חוקים למס על עיתונים ולאסור על פרסומי דיבה, ללא הצלחה. לאחר כישלון ניסיון ההדחה, החלו לאיים עליו במוות. הוא הקיף את עצמו בשומרי ראש חמושים כל הזמן.
שינוי מסלול, 1930.
במושב המועצה המחוקקת ב-1930, הציע לונג עוד בניית כבישים ובניית בניין קפיטול חדש בבאטון רוז'. המועצה המחוקקת דחתה זאת.
לונג הגיב כשהכריז על כוונותיו לרוץ לסנאט של ארצות הברית בבחירות הדמוקרטיות ב-9 בספטמבר 1930. הוא טען שמסע הבחירות הוא משאל עם על תוכניותיו. אם ינצח, הציבור תמך בתוכניותיו. אם יפסיד, הבטיח להתפטר. הוא ניצח את יריביו ברוב של 57%.
למרות שהחל לכהן בסנאט ב-4 במרץ 1931, הוא השלים את שארית כהונתו כמושל. הוא טען שהשארת המושב בסנאט פנוי לא תפגע במדינה, בעיקר בגלל שלטענתו, הסנאטור הקודם ממילא היה כושל. הוא לא עזב את משרת המושל עד 25 בינואר 1932, ומנע מסגנו, פול סיר, בעל בריתו לשעבר, להתמנות לתפקיד. סיר, שהיה רופא שיניים, התנגד ללונג ואיים לבטל את הרפורמות שלו אם יבחר לתפקיד המושל.
כוח חדש, 1930-1932.
לאחר שזכה לתמיכת בוחרי לואיזיאנה, המשיך לונג לנסות להעביר את החקיקה שלו. הוא הגיע להסכם עם יריביו במפלגה הדמוקרטית ועם ראש עיריית ניו אורלינס: הם יתמכו בחוקיו ובמועמדים שלו, והוא יתמוך בבניית גשר מעל נהר המיסיסיפי, נמל תעופה בניו אורלינס, ובניית תשתיות בעיר. התמיכה מהממסד הפוליטי אפשרה ללונג להטיל מס על הדלק כדי לממן בניות כבישים, בתי ספר, הקמת בניין קפיטול חדש בלואיזיאנה, ולהשיג הקצבה של 75 מיליון דולרים לבניית כבישים. בניית כביש מהיר בין ניו אורלינס לבאטון רוז' גרמה לכך שמערכת הכבישים במדינה הפכה למתקדמת ביותר. אויביו של לונג טענו שהפך לדיקטטור.
כמושל, תמך לונג באוניברסיטת לואיזיאנה. הוא מימן אותה ואפשר לה לקבל תלמידים עניים. הוא הקים בית ספר לרפואה בניו אורלינס והתערב בענייני האוניברסיטה, כמו בחירת הנשיא שלה. הוא הרחיב את התזמורת שלה ואף כתב לה כמה שירים. פעם, גרם לנבחרת הפוטבול לבצע מהלך שתכנן. בנוסף מימן רכבות שיסיעו את התלמידים למשחקים מחוץ למדינה.
באוקטובר 1931, סגן הנשיא סיר טען שהסנאטור הנבחר לא יכול להישאר בתפקיד המושל. הוא טען שהוא המושל האמיתי. בתגובה, שלח לונג את המשמר הלאומי של לואיזיאנה להקיף את הקפיטול ולעצור את ה"הפיכה" של סיר.
לונג פנה אל בית המשפט העליון של לואיזיאנה כדי שיפטר את סיר מתפקיד סגן המושל. הוא טען שסיר התפטר כשניסה לקחת את תפקיד המושל. לפי החוקה במדינה, נשיא הסנאט ובן בריתו, אלווין אולין קינג, הפך לסגן המושל, ואז, מינואר עד מאי 1932, למושל.
לונג בחר בחברו מילדות, אוסקר אלן, להחליף את קינג בתור המועמד לתפקיד המושל בינואר 1932, עם הבטחה להשלים את עבודתו של לונג. התמיכה של לונג עזרה לאלן לנצח בקלות, ולונג התפטר מתפקידו ופנה לסנאט בינואר 1932.