ג'ון שרמן קופר
כהונה שנייה בסנאט של ארצות הברית

תומכיו של קופר האמינו כי הוא יתמודד שוב למשרת מושל קנטקי או ימונה לבית המשפט העליון של ארצות הברית בראשית שנות ה-50 של המאה ה-20; חלקם אף הקימו ועדה לבחירת קופר לנשיאות. קופר אכן שקל להתמודד למושלות קנטקי ב-1951, אך כאשר וירג'יל צ'פמן נהרג בתאונת דרכים ב-8 במרץ 1951, החליט קופר להתמודד בשנית נגד תומאס אנדרווד, אשר מונה על ידי המושל לורנס ות'רבי למלא את שארית כהונתו של צ'פמן. אנדרווד נחשב לבעל הסיכויים הרבים ביותר לנצח בבחירות. רפובליקנים אחדים תקפו את קופר על שמונה לתפקידיו הדיפלומטיים בידי הנשיא הדמוקרטי הארי טרומן. גם העיתונים "לואיוויל טיימס" ו"לואיוויל קורייר-ג'ורנל" חזרו על הצהרותיהם שנתנו ב-1950 למען קופר, כשזה התמודד לסנאט ב-1954. עתה חששו כי בחירתו של רפובליקני לסנאט תאפשר למפלגתו להשתלט על הבית העליון של הקונגרס של ארצות הברית, ותוביל להתמנותם של רפובליקנים בדלנים לראשות ועדות מרכזיות בסנאט אשר יתנגדו למעורבותה המתמשכת של ארצות הברית במלחמת קוריאה. אף על פי כן, בבחירות הכלליות קופר ניצח את אנדרווד בפער של 29 אלף קולות וכיהן עד לתום תקופת כהונתו של צ'פמן. עם ניצחונו, הייתה זו הפעם הראשונה בהיסטוריה של קנטקי בה נבחר רפובליקני לסנאט מטעם המדינה יותר מפעם אחת.
עם היבחרו לסנאט, מונה לוועדה לענייני עבודה, חינוך ורווחה ציבורית ואף ישב בראשות ועדות המשנה של ועדה זו לענייני חינוך ועבודה. הוא נתן את חסותו להצעת חוק המאשרת קיום מיזמי עבודות ציבוריות לאורך נהר סנדי הגדול (Big Sandy River). הוא גם תמך בשיקום תאי השיט והסכר לאורך נהר אוהיו ובבניית תאי שיט, סכרים ומאגרים בעמק הנהר הירוק שבקנטקי. קופר התנגד לחוזה דיקסון-ייטס (חוזה בין הוועדה לאנרגיה אטומית של ארצות הברית לשתי חברות אנרגיה פרטיות), ששילם לתאגיד פרטי עבור בניית תחנת כוח חדשה לייצור חשמל עבור העיר ממפיס שבטנסי, וקרא במקום זאת לאשר לרשות עמק טנסי להנפיק איגרות חוב למימון הקמתן של תחנות כוח חדשות.
קופר המשיך להיות מעין סנאטור עצמאי בסנאט. במהלך "הבהלה האדומה", ביקר את הניסיונות לקבל האזנות סתר כראיות בבתי המשפט הפדרליים ואת הניסיונות לצמצום ההגנות מפני הפללה-עצמית מכוח התיקון החמישי לחוקת ארצות הברית. למרות זאת, הוא סירב להוקיע את מדיניותו של הסנאטור ג'וזף מקארתי, שהוביל את "הבהלה האדומה", והזהיר כי "רבים מאלה המתנגדים במרירות לסאנטור מקארתי קוראים לשימוש באותה טקטיקה בה הם מאשימים אותו". הוא היה הרפובליקני היחיד שהתנגד לתיקון בריקר, אשר ביקש להגביל את יכולתו של נשיא ארצות הברית לחתום על אמנות. הוא הגיע למסקנה כי לא די בסוגיות התיקון להצדיק שינוי בחוקת ארצות הברית הוא גם התנגד לחוק דיכוי הקרקעות ולהצעת חוק מלאכת המשק המקסיקני, בעוד שתי חקיקות אלו נתמכו על ידי ממשלו של הנשיא דווייט אייזנהאואר. הוא גינה את מינויו של חבר בית הנבחרים של ארצות הברית מטעם מחוז הקונגרס הראשון של קנזס, אלברט קול (שהיה ידוע כמתנגד ידוע לדיור הציבורי), כמנהל סוכנות הדיור הפדרלית, והתנגד לרפורמות החקלאיות שהוצעו על ידי מזכיר החקלאות של ארצות הברית בממשל דווייט אייזנהאואר, עזרא טאפט בנסון. אף על פי שהלך לא פעם נגד הזרם במפלגתו, העצמאות הפוליטית שהפגין לא הצליחה להפחית ממעמדו במפלגה. ב-1954 הוא נבחר לוועדת המדיניות הרפובליקנית של הסנאט.
ב-1954, בחר קופר להתמודד מחדש לכהונה מלאה בסנאט. הדמוקרטים התייחסו תחילה למושל ות'רבי כאל יריבו בבחירות, אך מועמדותו של ות'רבי עלולה הייתה להיתקל במועמדותו של האפי צ'נדלר כמכשול בבחירות המקדימות במפלגה הדמוקרטית, מה שיכול היה להוביל לפיצול המפלגה ולבחירתו מחדש של קופר. במקום זאת, מנהיגי המפלגה שכנעו את סגן הנשיא לשעבר, אלבן ברקלי, בן 77 אז, להתמודד מול קופר לסנאט כדי להבטיח את אחדות המפלגה. היו מעט הבדלי מדיניות בין ברקלי לקופר, שנחשב לרפובליקני הליברלי ביותר בסנאט על ידי קבוצת האינטרס "Americans for Democratic Action". במהלך מסע הבחירות הוצג קופר על שער מגזין טיים ב-5 ביולי 1954. קופר פנה לבוחרות, שהיו מודאגות ממלחמת הודו-סין הראשונה ואל מצביעים אפרו-אמריקאים, שקיווה לזכות בתמיכתם בעקבות עמדותיו הליברליות בכל הנוגע לזכויות האזרח. קופר הוסיף לטעון שאם ייבחר, הוא יהיה פחות מפלגתי מאשר ברקלי. הפופולריות הגבוהה של ברקלי הביאה אותו לניצחון בפער של 71,000 קולות.