Auf die Ermordung seines Bruders im November 1963 reagierte er tief getroffen. Sein Umfeld nahm ihn als einen gebrochenen, sichtlich gealterten Mann wahr, der seine Trauer mitunter mit sardonischen Bemerkungen zu überspielen versuchte. Kennedy zeigte kein Interesse an der Untersuchung des Mordfalls, wohl weil dies für ihn zu schmerzvoll war, und betraute daher seinen Mitarbeiter Nicholas Katzenbach mit der Kooperation mit der Warren-Kommission. Nach dem Tod seines Bruders verblieb er zunächst im Kabinett des Nachfolgers Lyndon B. Johnson; beide trennte aber eine gegenseitige Abneigung. Als sich seine Hoffnungen nicht erfüllt hatten, bei der Präsidentschaftswahl 1964 von Johnson als künftiger Vizepräsident nominiert zu werden, verließ er die Regierung im Herbst 1964 und kandidierte für das Amt des US-Senators von New York. Er gewann den Wahlkampf gegen den Republikaner Kenneth Keating und war von 1965 bis 1968 Senator. Seine Popularität innerhalb der Demokratischen Partei hatte sich schon am Parteitag 1964 gezeigt, auf dem er seine Rede erst nach einem fast 20-minütigen Beifallssturm beginnen konnte, der seiner Meinung nach allerdings vor allem dem ermordeten Bruder galt.