ג'ונסון מונה ללוטננט קומנדר בשירות המילואים של הצי של ארצות הברית ב-21 ביוני 1940. כשעוד כיהן בקונגרס, נקרא לשירות פעיל שלושה ימים לאחר המתקפה היפנית על פרל הארבור בדצמבר 1941. הוא קיבל פקודות להתייצב במשרד האחראי על הצי בוושינגטון לצורך הדרכה ואימונים. לאחר האימונים, ביקש מתת-מזכיר הצי ג'יימס פורסטל תפקיד קרבי. במקום זאת, נשלח לפקח על פעולות המספנות בטקסס ובחוף המערבי. באביב 1942, כשרצה הנשיא רוזוולט לקבל דיווחים בנוגע למצב בדרום מערב האוקיינוס השקט, הוא הרגיש שיש למנות לכך בעל ברית פוליטי אמין. פורסטל הציע את ג'ונסון לתפקיד.
ג'ונסון דיווח לגנרל דאגלס מקארתור באוסטרליה. ג'ונסון ושני קצינים נסעו לבסיס צבאי, שעליו הוטלה המשימה להפציץ את בסיס הטיסה היפני בלאה, גינאה החדשה. שותפו של ג'ונסון לחדר היה לוטננט משנה בצבא שהטיס מטוס מסוג B-17 מבצר מעופף. ב-9 ביוני 1942, התנדב ג'ונסון לתפקד כמשקיף עבור המשימה להפצצת בסיס האוויר שאליה יצא שותפו לחדר. במשימה, יורט המטוס של שותפו לחדר. בנוגע למטוס עליו היה ג'ונסון, הוא טען שהמטוס הותקף ונאלץ לשוב על עקבותיו תחת אש, אולם אחרים טענו שהמטוס שב על עקבותיו לפני שפגש באויב עקב בעיות בגנרטור. מטוסים אחרים שהמשיכו נורו בזמן שמטוסו של ג'ונסון נחת בבסיס הטיסה. מקארתור המליץ להעניק לג'ונסון את כוכב הכסף, אות העיטור השלישי בחשיבותו בצבא. לאחר אישור מצד הצבא, הוא העניק לג'ונסון את העיטור באופן אישי.
ג'ונסון, שהשתמש במצלמה, דיווח לרוזוולט, למפקדי הצי ולקונגרס בנוגע לתנאי השירות. הוא טען שדרום מערב האוקיינוס השקט זקוק ליותר משאבים. הוא טען, לדוגמה, שהמטוסים במצב רע. הוא דרש עוד 6,800 חיילים והכין תוכנית בת שנים עשר שלבים לשדרוג המאמץ. הקונגרס מינה אותו לאחראי על ועדה מיוחדת לנושאי חיל הים, עם משימה דומה לוועדת טרומן בסנאט, חקירת חוסר יעילות. הוא חשף את חוסר היעילות שפגע במלחמה הימית ודרש מהאדמירלים לפעול. ג'ונסון הציע חוק לשלילת הפטור מגיוס מעובדי מספנות שהרבו להיעדר מעבודתם, אך איגודי העובדים חסמו את החוק. הוא שוחרר משירות פעיל ב-17 ביולי 1942. הוא קודם לדרגת קומנדר (המקבילה לסגן אלוף) ב-19 באוקטובר 1949 (החל מ-2 ביוני 1948). הוא התפטר משירות המילואים ב-18 בינואר 1964.
הסנאט (1949-1961).
הבחירות של 1948.
עיקר המחלוקת בבחירתו של ג'ונסון לסנאט קדמה בבחירות המקדימות של המפלגה הדמוקרטית, כשגבר על המושל הפופולרי של טקסס קוק סטיבנסון. ג'ונסון גייס כספים ומשך קהל לאספות בחירות אליהן הגיע במסוק שכור. הוא זכה לתמיכת השמרנים בכך שתמך בחוק טאפט-הארטלי (שהגביל את איגודי העובדים) וביקר את איגודי העובדים. סטיבנסון הגיע למקום הראשון, אולם לא השיג רוב. לכן נערך סיבוב שני בו השקיע ג'ונסון מאמץ רב אף יותר.
תוצאות הבחירות היו צמודות מאוד – ג'ונסון ניצח בהפרש של 87 קולות לאחר שהוועדה הדמוקרטית המקומית המרכזית ספרה את הקולות. הועלו טענות רבות לגבי זיוף קולות בבחירות אלו. שמו של מנהל הקמפיין של ג'ונסון נקשר לאחד המחוזות, בו נמנו בדיוק בדקות האחרונות של ההצבעה 202 קולות, שבאופן מעורר חשד נכתבו באותו עט וכתב יד וסודרו לפי סדר הא"ב. חלק מהמצביעים התעקשו שלא הצביעו באותו היום. הוועדה אישרה את מועמדותו של ג'ונסון בהפרש של קול אחד.
הוועדה הדמוקרטית המקומית תמכה בג'ונסון בערעוריו של סטיבנסון בבית המשפט, ובבחירות הכלליות ב-1948, נבחר ג'ונסון לסנאט, לאחר שהביס את יריבו הרפובליקני ג'ק פורטר ברוב גדול, עם תוצאה מוכפלת מיריבו. בוושינגטון די. סי. ובקונגרס זכה ג'ונסון לכינוי "Landslide Lyndon", "לינדון ניצחון ענק", בלשון סגי נהור, עקב ניצחונו הדחוק בבחירות המקדימות על יריבו. הוא בשמחה, לצד התעלמותו מביקורות, אימץ את הכינוי.
סנאטור טירון ומצליף הרוב.
כסנאטור, נודע ג'ונסון על חיזוריו אחר סנאטורים ותיקים, ובפרט אחר הסנאטור ריצ'רד ראסל מג'ורג'יה, מנהיג הסנאטורים הדרומיים, ונטען כי היה הסנאטור העוצמתי ביותר בסנאט. ג'ונסון היה בן טיפוחיו של ראסל, ובתמיכתו התמנה למנהיג המפלגה הדמוקרטית בסנאט.
ג'ונסון מונה לוועדת השירות הצבאי בסנאט, ולאחר מכן הקים ועדת משנה לחקירת המוכנות הצבאית. הוא חקר את היעילות בצבא ודרש להשלים את פעולות ממשל טרומן כנגד המוסדות הלא יעילים. הוא זכה לכותרות רבות, והדו"חות שפרסם זכו לתמיכה פה אחד בסנאט. ג'ונסון השתמש בהשפעתו בסנאט כדי להשיג רישיון שידור מרשות התקשורת הפדרלית על שם אשתו. לאחר הבחירות ב-1950, נבחר ג'ונסון להיות מצליף הרוב בסנאט ב-1951, תפקיד בו שירת עד 1953.
מנהיג הדמוקרטים בסנאט.
לאחר הבחירות הכלליות ב-1952, זכו הרפובליקנים לרוב בקונגרס. הסנאטור בארי גולדווטר הביס את מנהיג הרוב הדמוקרטי. בינואר 1953 נבחר ג'ונסון למנהיג המיעוט הדמוקרטי בסנאט, והיה לסנאטור הטרי ביותר המתמנה לעמדה זו. אחת מפעולותיו הראשונות הייתה לבטל את שיטת הסניוריטי לבחירת הממונים לוועדות בסנאט, פרט ליושבי הראש. לאחר ניצחון הדמוקרטים בבחירות ב-1954 והשגת השליטה בשני בתי הנבחרים, הפך למנהיג הרוב בסנאט. ג'ונסון קבע לוחות זמנים לחקיקה ועזר להעביר את החוקים הדמוקרטיים. ג'ונסון הוביל קו מתון של שיתוף פעולה עם הנשיא דווייט אייזנהאואר. ב-1957 היה ג'ונסון היה ממנהיגי המאבק להעברת חוק זכויות האזרח, שהיה חוק זכויות האזרח הראשון שעבר בארצות הברית מזה שבעים שנה.
במהלך משבר סואץ, ניסה ג'ונסון למנוע מממשלת ארצות הברית לבקר את הפלישה הישראלית אל חצי האי סיני. ג'ונסון, כמו שאר המדינה, פחד מהאיום של שליטה סובייטית בחלל לאחר שיגור הלוויין המלאכותי הראשון, ספוטניק 1, והשתמש בהשפעתו כדי להעביר ב-1958 את חוק האווירונאוטיקה והחלל הלאומי, שהוביל להקמת נאס"א.
ג'ונסון נחשב למנהיג הסנאט המשפיע ביותר בהיסטוריה. הוא היה מצוין באיסוף מידע. הוא ידע בדיוק במה תמך כל סנאטור, במה האמין, ומה היה צריך כדי להשיג את תמיכתו. לעיתים שלח סנאטורים לנסיעות לנאט"ו כדי שלא יצביעו נגד חוק שרצה להעביר. נדבך בולט בשליטתו בסנאט היה "הטיפול", שתואר כך: ג'ונסון דיבר עם המטרה שלו בבריכה בחווה שלו, במשרד, בחדר המעילים בסנאט או באולם הסנאט עצמו - בכל מקום בו מצא את הסנאטור. ג'ונסון תבע, האשים, שידל, התלהב, נזף, בכה, התלונן ואף איים. הוא הוציא מכיסיו סטטיסטיקות בנוגע לנושאים מסוימים והצליח לגרום לסנאטורים לתמוך בעמדתו.
ג'ונסון עישן שישים סיגריות ביום, וב-2 ביולי 1955, עבר התקף לב. הוא הפסיק לעשן כתוצאה מכך, וחזר לעשן רק אחרי שסיים את כהונתו כנשיא.
כהונתו כסגן נשיא.
מועמדות.
הצלחתו של ג'ונסון בסנאט הובילה אותו להתמודד כמועמד המפלגה הדמוקרטית לנשיאות בבחירות של 1960 מול ג'ון קנדי בבחירות המקדימות של המפלגה הדמוקרטית. הוא קיבל תמיכה מצד המשלחת הטקסנית עוד ב-1956, וב-1960 נחשב למועמד רציני. הוא דחה הצעות לערוך מסע בחירות בתחילת 1959, במחשבה שקנדי יגרום לפילוג מפלגתי שיוכל לנצל. הוא נכנס למירוץ רק ביולי 1960, ולא ערך מסע בחירות נמרץ, כך שקנדי השיג יתרון רב במירוץ. ג'ונסון זלזל ביכולתו של קנדי למשוך אליו מצביעים בעזרת קסמו האישי..
ג'ונסון ניסה, לשווא, לנצל את גילו הצעיר של קנדי, מצב בריאותו הרע וחוסר התנגדותו לג'וזף מקארתי. יחד עם עדלי סטיבנסון ויוברט האמפרי, הוביל תנועת התנגדות לקנדי, שנכשלה. ג'ונסון השיג 409 קולות, אולם הוועידה בחרה בקנדי.
קנדי הציע לג'ונסון, בצעד מפתיע מעט, לשמש כמועמדו לסגן הנשיא. לפי דיווחים מאוחרים יותר, ייתכן שההצעה הייתה מחוות נימוס בלבד של קנדי, שלא ציפה שג'ונסון יקבל על עצמו את התפקיד. קנדי גם רצה לנצל את התמיכה לה זכה ג'ונסון הטקסני במדינות הדרום במערכת הבחירות מול ריצ'רד ניקסון. קנדי היה ליברל, צפוני המגיע ממסצ'וסטס, עירוני וקתולי. הדרום היה בדרך כלל שמרני, כפרי ופרוטסטנטי, וסביבה זו התאימה לג'ונסון, שהגיע מחווה כפרית והיה קלוויני פרוטסטנטי. ג'ונסון הביא את תמיכת הדמוקרטים הדרומיים, למרות התנגדות שזכה לה בקרב איגודי עובדים.
רוברט קנדי (בובי) שנא את ג'ונסון בגלל התקפותיו על משפחת קנדי. הוא היה זה שטען שקנדי לא ציפה שג'ונסון יקבל את התפקיד.
קנדי החל בהליך למינוי ג'ונסון עוד כשג'ונסון ישן, ובשש וחצי ביקש מאחיו לחשב את ההערכה של האלקטורים שיזכה בהם "כולל טקסס". רוברט קנדי הבין טוב מאוד את משמעות דבריו של אחיו: ג'ונסון יהיה סגנו כדי לנצח בטקסס. בין תשע ועשר בבוקר, התקשר קנדי למושל פנסילבניה שתמך בג'ונסון כדי להודיע על החלטתו והלך לשוחח עם ג'ונסון. לאחר מכן חזר אל חדרו והודיע לתומכיו על החלטתו. למרות ברכות מחלק מתומכיו, שראו בכך חיזוק למועמדותו, אחרים הרגישו נבגדים כיוון שקנדי תיאר את ג'ונסון כמתנגד לפועלים ואנטי ליברל. רוברט קנדי ניסה לשנות את ההחלטה. ג'ונסון סירב לוותר שלא על דעתו של ג'ון קנדי. קנדי היה נחוש לבחור בג'ונסון כסגנו. הדבר הוביל ליריבות מרה בין ג'ונסון ורוברט קנדי, שהיו לה השלכות על המפלגה בשנות ה-60. עם זאת, מינויו של ג'ונסון נחשב להצלחה מסחררת מבחינת איזון מועמדותו של קנדי.
באותה מערכת הבחירות, ניסה ג'ונסון גם להתמודד לכהונה שלישית בסנאט. הוא הוביל לשינוי החוק בטקסס שאפשר לו להתמודד על שני התפקידים, וב-8 בנובמבר 1960, הוא נבחר גם לתפקיד סגן הנשיא וגם לתפקיד הסנאטור. לאחר מכן התפטר מהסנאט ברגע שזה התכנס שוב ב-3 בינואר 1961. (ב-1988, השתמש לויד בנטסן, עמיתו למירוץ של מייקל דוקאקיס, וסנאטור מטקסס בעצמו, בחוק של ג'ונסון והצליח להיבחר שוב לסנאט למרות הפסדו בבחירות.)