קנדי היה בבית החולים בין מאי לדצמבר 1944. ב-12 באוגוסט 1944, בעודו משרת בצי, קיבל קנדי את הידיעה כי אחיו הבכור, ג'וזף, נהרג במבצע אפרודיטה בהתפוצצות מטוסו.
ב-1 במרץ 1945, פרש קנדי מהצי בגלל בעיות הבריאות שלו בדרגת סגן. לאחר מכן צחק כששאלו אותו כיצד הפך לגיבור מלחמה, וטען שפשוט חתכו את הסירה שלו לחצי.
שירות לאחר הצי.
באפריל 1945, אביו של קנדי, שהיה חבר של ויליאם רנדולף הרסט, ארגן לבנו משרה ככתב מיוחד עבור עיתוניו של הרסט. המשרה אפשרה לקנדי לשמור על מעמד ציבורי. במאי 1945, כיסה את ועידת פוטסדאם.
קריירה בקונגרס.
כיוון שאחיו הגדול ג'וזף יועד לפוליטיקה מטעם המשפחה, ואביו טיפח אותו לנשיאות, מותו ב-1944 שינה את המצב. אביו, ג'וזף קנדי האב, החליט עתה כי היורש הראוי והנשיא העתידי יהיה ג'ון, בנו השני.
בית הנבחרים של ארצות הברית (1947-1953).
בשנת 1946 החליט נציג מסצ'וסטס לבית הנבחרים של ארצות הברית, ג'יימס מ. קרלי, להתמודד על משרת ראש העיר של בוסטון. משפחת קנדי החליטה כי ג'ון הצעיר ימלא את מקומו בבית הנבחרים, ובאמצעות השפעתה הרבה במפלגה הדמוקרטית נבחר קנדי למתמודד מטעמה, כשהוא משיג 12% מהקולות מול עשרה מועמדים אחרים. היה זה הימור בטוח, שכן מסצ'וסטס הייתה מאז ומעולם מעוז של המפלגה הדמוקרטית, וכל מתמודד מטעמה זכה בבחירות באופן כמעט אוטומטי. קנדי נבחר לבית הנבחרים של ארצות הברית בנובמבר 1946 מטעם המחוז ה-11 של מסצ'וסטס, עם 73% מהקולות, למרות הרוב הרפובליקני שהושג אז בבית הנבחרים, והוא בן 30 בלבד. יחד עם ריצ'רד ניקסון וג'וזף מקארתי, היה קנדי אחד מיוצאי מלחמת העולם השנייה שנבחרו לראשונה לקונגרס באותה השנה.
קנדי שירת בבית הנבחרים במשך שש שנים, והצטרף לוועדת כוח העבודה והחינוך ולוועדה לטיפול ביוצאי צבא. הייתה זו תקופת נשיאותו של הנשיא הארי טרומן. על הפרק עמדו נושאים כבדי משקל, כגון שיקומן של ארצות הברית ושל אירופה לאחר המלחמה, היחס למשטר הקומוניסטי בסין והמלחמה הקרה, שהחלה אז לתת את אותותיה. כחבר בית הנבחרים תמך קנדי בדרך כלל במדיניותו של טרומן בכל הנוגע למדיניות הפנים, והתנגד לחוק יחסי העבודה של 1947 שהגביל את כוחם של האיגודים המקצועיים. הוא תמך בדוקטרינת טרומן בשעתו אך השמיע מדי פעם ביקורת על דרכו של טרומן במדיניות החוץ. אף על פי שלא היה אנטי קומוניסט חריף כמקארתי, תמך קנדי בחוק האזרוח והלאומיות של 1952, שדרש רישום של הקומוניסטים, וביקר את אובדנה של סין.
הסנאט (1953-1960).
עוד בתחילת 1949 החל קנדי להתכונן לרוץ לתפקיד הסנאטור ב-1952, מול הנציג הרפובליקני הנרי קבוט לודג' הבן, שכיהן כבר שמונה עשרה שנים בסנאט והיה שגרירה הראשון של ארצות הברית לאו"ם. הייתה זו שנה לא טובה פוליטית למפלגה הדמוקרטית. באותה שנה נבחר הנשיא דווייט אייזנהאואר תוך סיום שליטה דמוקרטית בת 20 שנים בבית הלבן. ג'וזף קנדי מימן וניהל את מועמדותו של בנו, ואחיו הקטן רוברט קנדי הפך לחבר חשוב בצוות הבחירות. אף על פי שאייזנהאואר ניצח במסצ'וסטס בהפרש של 208,000 קולות, לאחר מרוץ צמוד ניצח קנדי את לודג'ברוב של 70,000 קולות. באותה השנה נישא לג'קלין בובייה.
כסנאטור מונה קנדי לוועדת העבודה והרווחה בסנאט וכן לוועדת יחסי החוץ. בדרך כלל ייצג נאמנה את בני מסצ'וסטס, והעביר חוקים שסייעו למדינה ובמיוחד לקהילת העסקים.
בתקופה זו סבל מאוד מהבעיות בגבו, עבר סדרת ניתוחים במשך שנתיים, והמעיט מאוד בהיקף פעילותו בסנאט. פעמים רבות היה על ערש דווי. בעודו מחלים מהניתוחים, כתב ספר על פעולות אמיצות של חברי הסנאט באמריקה, אשר הצביעו נגד דעת הרוב ונגד דעת בוחריהם בנושאים חשובים שעל הפרק. הספר, "דיוקנאות באומץ", היה לרב מכר, וזיכה את קנדי בפרס פוליצר ב-1957. (הספר יצא לאור בעברית בשם "אומץ ופוליטיקה", בהוצאת מסדה בשנת 1960). מאוחר יותר התברר כי קנדי לא כתב את הספר בפועל, וכתיבתו הייתה בעיקר מעשה ידיו של יועצו הקרוב וכותב הנאומים שלו, טד סורנסן. בשנת 2008 אומת הדבר בביוגרפיה של סורנסן.
בשנת 1956, בוועידה הדמוקרטית הלאומית, נאם את נאום הצגת המועמדות של המועמד הנשיאותי, עדלי סטיבנסון. לאחר שסטיבנסון אישר לוועידה לבחור בסגנו, הציג את מועמדותו לתפקיד המועמד הדמוקרטי לסגן נשיא ארצות הברית. הוא נכשל בכך והגיע למקום השני לאחר הסנאטור אסטס קאפובר מטנסי, אך קיבל את החשיפה הלאומית שבה חפץ, ולמעשה היה לדמות פוליטית מוכרת במישור הלאומי.
במהלך כהונתו בסנאט נאלץ להתייחס לחוק זכויות האזרח של הנשיא אייזנהאואר משנת 1957. קנדי נאלץ לתמוך בעמדת מפלגתו בנושא, ולפייס את הדמוקרטים הדרומיים שהתנגדו לחוק. עם זאת, תמך בסעיף בחוק שנועד להקנות לתובע הכללי סמכויות נרחבות, אולם מנהיג הרוב בסנאט לינדון ג'ונסון חסם את החוק. קנדי גם תמך בחוק שנועד לתקן את חבר המושבעים, אף על פי שתומכי החוק טענו שהסעיף יחליש אותו. חוק פשרה, בו תמך קנדי, עבר בספטמבר 1957.
בשנת 1958 נבחר שוב לסנאט ברוב מוחץ ובהפרש של 874,608 קולות. היה זה הרוב הגדול ביותר בפוליטיקה של מסצ'וסטס. באותה התקופה יצא סרט עליו כסנאטור. לקראת הבחירות לנשיאות בשנת 1960, הכריז על מועמדותו למשרת הנשיא.
בבחירות המקדימות עמדו מולו שלושה מתמודדים בעלי ותק וכישורים – מושל אילינוי עדלי סטיבנסון, שהיה מועמד בשנים 1952 ו-1956, הסנאטור יוברט המפרי ממינסוטה, והסנאטור לינדון ג'ונסון מטקסס. קנדי ניצח במערכת בחירות קשה ומסובכת, ונבחר כמועמד המפלגה הדמוקרטית לנשיאות ב-13 ביולי 1960. הוא בחר כמועמדו לסגן הנשיא את לינדון ג'ונסון, בן טקסס, בצעד שנועד לחזק את התמיכה בו, מועמד ליברלי, קתולי ועירוני, בקרב הדרום השמרני, הפרוטסטנטי והכפרי.
אביו של קנדי תמך בסנאטור ג'וזף מקארתי, שהיה חבר של המשפחה. רוברט היה אחד מעוזריו הבכירים של מקארתי בוועדה, ומקארתי אף יצא עם פטרישיה קנדי. לעומת זאת, קנדי התנגד פומבית למדיניותו של חברו לסנאט, אך סירב להוקיעו.
הבחירות ב-1960.
ב-2 בינואר 1960, הכריז קנדי על מועמדותו לנשיאות מטעם המפלגה הדמוקרטית. רבים פקפקו בניסיונו ובגילו, אולם הכריזמה והרהיטות שלו אפשרו לו להשיג תמיכה רחבה. המכשול הגדול ביותר למועמדותו הייתה דתו, כיוון שרבים התנגדו לנצרות הקתולית, אולם תמיכתו המובהקת בהפרדת הדת מהמדינה סייעה לו להימנע מהנושא. דתו גם סייעה לו להשיג תמיכה מצד קתוליים. קנדי נאלץ להתמודד עם כמה מועמדים במערכת הבחירות, כולל עדלי סטיבנסון, הסנאטור יוברט האמפרי ומנהיג הרוב בסנאט לינדון ג'ונסון. קנדי נסע ברחבי המדינה כדי להשיג תמיכה ממנהיגי המפלגה והבוחרים. מנהיגי המפלגה עדיין שלטו ברוב הצירים, אולם כמה מדינות גם ערכו בחירות מקדימות, וקנדי ניסה לנצח בכמה מהן כדי לחזק את סיכוייו. המבחן הראשון שלו היה ניצחון בבחירות בוויסקונסין, מה שחיסל את ניסיונו של האמפרי להיבחר. קנדי והאמפרי התמודדו גם בבחירות בווירג'יניה המערבית, בה לא הייתה אוכלוסייה קתולית גדולה בניגוד לוויסקונסין. קנדי ניצח בבחירות, והרשים רבים במפלגה, אולם עם תחילת הוועידה הלאומית עדיין לא היה ברור אם ייבחר.
לקנדי היו רוב הצירים, אולם לא מספיק כדי להבטיח את ניצחונו. סטיבנסון, המועמד ב-1952 וב-1956, נשאר אהוד במפלגה, וג'ונסון קיווה לזכות במועמדות בתמיכת מנהיגי המפלגה. קנדי זכה גם להתנגדותו של הנשיא לשעבר הארי טרומן, שדאג בנוגע לחוסר ניסיונו. כשהוא יודע שסיבוב שני יאפשר לג'ונסון או למועמד אחר להיבחר, מטה הבחירות המאורגן של קנדי הצליח להשיג תמיכה ממספיק צירים כדי להיבחר בסיבוב הראשון. למרות התנגדות אחיו ותומכיו הליברלים, קנדי בחר בג'ונסון כסגנו, מתוך אמונה שהסנאטור מטקסס יסייע לו, המועמד הליברלי, הקתולי והעירוני, לזכות בדרום ארצות הברית הפרוטסטנטי והכפרי. עם קבלת המועמדות, נאם קנדי את נאום "הסְפר החדש" (The New Frontier) שבה דרש מן האמריקאים "להיות חלוצים בספר החדש". "הספר החדש" לא היה מקום גאוגרפי, כי אם דרך חשיבה, דרך פעולה – להתקדם אל העתיד תוך שיפור מתמיד בחינוך, בתעסוקה ובתחומים אחרים, דרך חידושים מדעיים, והנחלת הדמוקרטיה והחירות לעולם כולו.
אל מול קנדי הציבה המפלגה הרפובליקנית כמועמד לתפקיד הנשיא את סגן הנשיא המכהן ריצ'רד ניקסון. ניקסון נחשב ככוכב עולה בפוליטיקה האמריקאית, וכמומחה למדיניות חוץ. השניים היו בעלי רקורד פוליטי דומה. ניקסון אמנם, בניגוד לקנדי, לא בא ממשפחה עשירה ובעלת השפעה, אבל שניהם היו בני אותו דור, לחמו במלחמת העולם השנייה, והקריירה שלהם התקדמה על פסים דומים. ניתן היה לומר שבתקופת שירותם המשותף בבית הנבחרים, התפתחה אף ידידות ביניהם.
בתחילת מסע הבחירות בסתיו, הוביל ניקסון על קנדי בשישה אחוזים. הנושאים המרכזיים היו המיתון שהתרחש, דתו של קנדי, המהפכה הקובנית והאם תוכניות החלל והטילים הסובייטיות עקפו את אלו של ארצות הברית. מתוך חשש שדתו הקתולית תשפיע על החלטותיו, הודיע ב-12 בספטמבר 1960: "אני לא המועמד הקתולי לנשיאות, אני המועמד הדמוקרטי לנשיאות שהוא במקרה קתולי. אני לא מדבר בשם הכנסייה שלי בענייני ציבור - והכנסייה שלי לא מדברת בשמי". קנדי גם שאל האם רבע מהאמריקנים הם אזרחים מדרגה שנייה רק מפני שהם קתולים. בנוסף טען שבצי, אף אדם לא שאל בנוגע לדתו.