ג'ון שרמן קופר
שיבה לסנאט של ארצות הברית

הסנאטור אלבן ברקלי נפטר בעודו מכהן ב-30 באפריל 1956. מנהיגים רפובליקנים עודדו את קופר לשוב מהודו ולהתמודד עם מושבו של ברקלי, אבל קופר לא רצה לוותר על שגרירותו. לאחר פנייה אישית מצד הנשיא דווייט אייזנהאואר, הסכים קופר והצהיר על מועמדותו ביולי 1956. גם לאחר שעזב את הודו, הוא שמר על קשרים הדוקים עם מנהיגי המדינה והיה נציגה הרשמי של ארצות הברית בהלוויותיהם של ראשי ממשלת הודו: נהרו ב-1964, לאל באהאדור ב-1966 ואינדירה גנדי ב-1984.
משום שברקלי הלך לעולמו לאחר המועד האחרון להגשת מועמדים בבחירות אמצע הכהונה, על הוועד המרכזי של המפלגה הדמוקרטית היה לבחור מועמד למושב באופן מידי. לאחר שניסו ללא הצלחה למצוא מועמד פשרה שתומכיהם של צ'נדלר וקלמנט יתמכו בו, במפלגה הדמוקרטית נבחר לורנס ות'רבי, שתקופת כהונתו כמושל הסתיימה זה עתה. צ'נדלר, שכיהן באותו הזמן את תקופת כהונתו השנייה כמושל, התרגז על בחירתו של ות'רבי, ורוב חברי מחנהו העניקו לוות'רבי תמיכה פושרת או תמכו בקופר במקום זאת. חילוקי דעות אלו במפלגה הדמוקרטית, בשילוב עם הפופולריות האישית של קופר, הובילו לניצחונו על ות'רבי כשהוא מוביל עליו ב-65 אלף קולות.
עם שובו לסנאט ב-1957, קופר היה לחבר בוועדת החוץ של הסנאט של ארצות הברית. ב-1959 התמודד נגד הסנאטור אוורט דירקסן מאילינוי על תפקיד מנהיג הסיעה הרפובליקנית בסנאט, אך הפסיד בפער של ארבעה קולות. בסקר שנערך ב-1960 על ידי עיתונאים מכתב העת "ניוזוויק", קופר נבחר לסנאטור הרפובליקני המוערך ביותר. הוא עזר לחבר את פקודת החינוך לביטחון לאומי (National Defense Education Act) ואף נתן את חסותו לחוק יחד עם הסנאטור ג'נינגס רנדולף מווירג'יניה המערבית. קופר נתן את חסותו לחוק פיתוח אזור הרי האפלצ'ים, שנועד לטפל בעוני השורר באפלאצ'יה (Appalachia). קופר התנגד באופן נחרץ להגבלת רשות עמק טנסי.
ב-1960, הציבו הדמוקרטים את מושל קנטקי לשעבר קין ג'ונסון, אז מנכ"ל בחברת "ריינולדס מתכות", כמועמד נגדי לקופר בבחירות לסנאט של ארצות הברית בקנטקי. קופר זכה לתמיכה של ארגוני עבודה ונהנה מתמיכתו של קהל בוחרים רחב שהורכב מתושבי קנטקי שהצביעו לריצ'רד ניקסון על פניו של ג'ון פיצג'רלד קנדי כתגובה נגד הקתוליות של קנדי בבחירות לנשיאות ארצות הברית 1960. בבחירות הכלליות לסנאט ניצח קופר בסופו של דבר את ג'ונסון בפער של 199,257 קולות, מה שהיה הניצחון הגדול ביותר שגרף מועמד לסנאט של ארצות הברית מטעם קנטקי.
זמן קצר לאחר בחירתו לנשיאות ארצות הברית ב-1960, בחר קנדי בקופר לעמוד בראשות משלחת דיפלומטית חשאית למוסקבה ולניו דלהי, במטרה להעריך את עמדות הממשלה הסובייטית כלפי ממשלו החדש. קנדי וקופר שירתו יחד בוועדת העבודה של הסנאט ושמרו על יחסים ידידותיים. כששירת מחוץ לגבולות ארצות הברית מטעם המשלחת החשאית גילה קופר כי הסובייטים אינם אוהבים את קנדי וניקסון באותה מידה. בדין וחשבון מסכם שחיבר קופר לקנדי, כתב כי יש פוטנציאל קטן ליחסים הרמוניים עם הסובייטים. לאחר פגישה עם המזכיר הכללי של המפלגה הקומוניסטית של ברית המועצות ניקיטה חרושצ'וב, אישר קנדי לקופר כי חוות הדעת שחיבר עבורו הייתה נכונה והודה כי היה עליו להתייחס אליו ביתר רצינות. קופר תמך בהחלטתו של קנדי לחדש את בדיקות הנשק הגרעיני של ארצות הברית אחרי שברית המועצות חידשה את בדיקות הנשק הגרעיני שלה במרץ 1962, אך הוא דחק בקנדי לנהל משא ומתן על חוזה עם ברית המועצות במידת האפשר.
הנשיא לינדון ג'ונסון מינה את קופר לחבר בוועדת וורן, שחקרה את רצח ג'ון קנדי ב-1963. קופר השתתף ב-50 מתוך 94 הדיונים של הוועדה ודחה את "תיאורית הקליע הבודד", וטען כי לא היו ראיות לכך שקנדי ומושל טקסס ג'ון קונלי נפגעו מאותו קליע. בתור אחד משלושה רפובליקנים בוועדת הכללים והממשל של הסנאט של ארצות הברית, היה קופר מעורב בחקירת עוזרו של הנשיא ג'ונסון, בובי בייקר ב-1964, אותו הגדיר כ"מטייח" לאחר שוועדת וורן חסמה חקירה נוספת. הוא הציע להקים ועדה מיוחדת לענייני התנהלות ואתיקה בסנאט ביולי 1964, ושנה אחר כך נקרא לחברות בוועדה זו. כמו כן, ב-1965, הוא נבחר כיועץ למשלחת ארצות הברית לוועידה במנילה שבפיליפינים, בה נוסד הבנק האסייתי לפיתוח.