ケネディの政治家としての最初の10年間は全米で知名度の高い政治家とは言えなかった。全国的な舞台に立つこともなく、議会でも重要な法案を任されるこもなかった。そのケネディが一躍全米で知られるようになったのは1956年民主党全国大会においてであった。アイゼンハワー大統領と大統領選挙を争う民主党候補に指名されたアドレー・スティーブンソンと組む副大統領候補の1人となり、エステス・キーフォーヴァーと民主党副大統領候補を争い敗れたが、このときの風格ある敗北宣言が党内で称賛された。また民主党大統領候補となったアドレー・スティーブンソンの指名推薦演説を任され、演説は見事な出来であり、有力候補でなかったケネディの善戦が民主党党員に強い印象を残し全国的にその名を知られるようになり、次の大統領選挙への足がかりを掴んだ。やがて1958年の中間選挙では上院議員の再選をめざして、次の大統領の有力候補者として雑誌『LIFE』にもジャクリーンと二人での写真および生まれたばかりのキャロラインを抱いての家族写真が表紙に掲載されて、着々と大統領への道を切り開いていった。共和党の対抗馬がヴィンセント・セレストで知名度がなく、87万4,608票で73.6%の得票率を獲得、圧倒的な勝利を収めた。これはマサチューセッツ州で過去に例を見ないほどの圧勝であった。上院議員としても外交委員会のメンバーに入り、全国的な注目を集める政治家となった。1958年8月14日の上院本会議でケネディは演説し、米ソ間で大きな軍事力の差が存在しているとしてアイゼンハワー政権を批判した。このときにミサイル・ギャップという言葉を使い、アメリカの弾道ミサイルの開発、配備が遅れていると主張し、これはアイゼンハワー政権の共和党の責任であると批判した（ミサイル・ギャップ論争） 。このころのケネディは後年高い評価を受けた平和主義者ではなく、共産主義の拡大を阻止しなければならないという冷戦の闘士の一人であった。
ケネディは組織犯罪と労働組合の腐敗を追及する「上院マクレラン委員会」（ジョン・マクレランが委員長を務めた。旧称「バラキ公聴会」）の委員として名を連ねていた。実弟でロバート・ケネディはこの委員会の首席顧問として司法省から派遣され検事役を務めた。この委員会の最大の功績は、アメリカ一の組合員数を誇ったトラック運転手組合の「チームスター組合」とマフィアとのつながりを明らかにしたことであり、また「マクレラン委員会」はバティスタ政権下のキューバからアメリカに密輸されるヘロインの中継基地が、南部の港湾都市で港湾労働者組合をマフィアが掌握していたニューオリンズであると特定した。これにより、チームスター組合のジミー・ホッファとケネディとの対立が始まった。この委員会の活動によりケネディ兄弟は知名度を高めた。それと同時に、妹パトリシアの夫でハリウッド俳優のピーター・ローフォードとその親友のフランク・シナトラを通じて、サム・ジアンカーナやジョニー・ロセリなどのマフィアとの関係を構築していった。
ケネディはのちにリベラル派とみなされるようになったが、1950年代初めには父ジョセフの友人であるアイルランド系カトリックの共和党上院議員ジョセフ・マッカーシーによる赤狩り（マッカーシズム）に協力的であった。民主党リベラル派のエレノア・ルーズヴェルトはそのことを忘れず、のちの大統領選でもケネディを信用しなかった。マッカーシーの行きすぎた言動は批判を呼ぶようになり、1954年にハーバード大学である演説者が「そこいらの大学と違ってハーバードからはアルジャー・ヒス（国務省職員でソ連のスパイ）やジョー・マッカーシーのような人物を出していないのが自慢だ」という発言をしたのに対し、ケネディは「偉大なアメリカの愛国者と売国奴の名をよくも一緒くたにできたものだ」と憤激したというエピソードがある。上院では1954年6月にマッカッシーの譴責決議案が上程され、12月2日に65対22でマッカーシーを「上院に不名誉と不評判をもたらすよう行動した」として決議案は可決され、マッカーシズムは終結に向かった。民主党の方針でマッカッシーの譴責決議案に賛成票を投じざるを得なくなったケネディだったが、「かねてから必要とされていた手術を受ける」ことを口実に投票を棄権している。脊椎の手術後で生死の境をさまよった時期であるが、誰も知る由もなく、このことでエレノア・ルーズヴェルトから「世間の目ばかりを気にせず、勇気を示すことはできたはず」と非難されてしまった。1950年のカリフォルニア州選出上院議員選挙で共和党候補リチャード・ニクソンがリベラル派の民主党候補ヘレン・ガーガン・ダグラスを「共産主義者」「アカの信奉者」と批判するなど激しい組織的中傷により勝利した際には、秘密裏にニクソン陣営に献金していたとされる。
フェアファックス郡となった地域にヨーロッパ人が入ってきたとき、アルゴンキン語族ポウハタン連邦のトーセネント族と呼ばれる小部族が住んでいた。ポトマック川の南岸、現在のフェアファックス郡にナマシンガケントと呼ぶ集落に住んでいた。フェアファックス郡は1742年にプリンスウィリアム郡が分離して設立された。郡名は、ノーザンネックの領主だったキャメロンの第6代フェアファクス卿トマス・フェアファクス（1693年-1781年）に因んで名付けられた。フェアファックス郡最古の開拓地はポトマック川沿いにあった。ジョージ・ワシントンはフェアファックス郡に入植し、この川に面する位置にマウントバーノンと呼ばれる家を建てた。ジョージ・メイソンの家であるガンストン・ホールも近くにある。現代のフォートベルボアの一部は、1741年にウィリアム・フェアファックスがポトマック川沿いに建てたベルボア・マナーの敷地にある。この植民地に住んだ唯一のイギリス貴族であるトマス・フェアファックス卿はベルボアに住み、その後シェナンドー・バレーに移転した。1783年にアメリカ独立戦争が終わった直後、ベルボアの邸宅とその外郭の建物数軒が火事のために失われた。ジョージ・ワシントンはこのプランテーションの建造物が次第に廃墟に変わっていると記した。1757年、郡北西部3分の2がラウドン郡になった。1789年、郡の一部が連邦政府に譲渡され、コロンビア特別区のアレクサンドリア郡となった。このアレクサンドリア郡は1846年にバージニア州に返還され、1870年にはアレクサンドリア独立市ができて面積を減らし、1920年にはアーリントン郡と改名された。フェアファックス郡のフォールズチャーチの町は1948年に独立市となった。フェアファックスの町も1961年に独立市になった。フェアファックス郡はワシントンD.C.に近く、南北戦争では重要な地域になった。シャンティリーの戦い（またはオックスヒルの戦い）は第二次ブルランの戦いと同じ方面作戦の間に、郡内で戦われた。ブルランはフェアファックス郡とプリンスウィリアム郡との郡境を流れている。郡の東側境界にあって、ワシントンD.C.を見下ろすマイナーズヒル、マンソンズヒル、アプトンズヒルでも戦闘が起きた。第二次世界大戦後に連邦政府が大きくなり、郡の急速な成長に拍車を掛けた。その結果、かつては田園部だった郡が次第に郊外部に変わっていった。大企業が郡内に立地し、タイソンズコーナー・センターが開かれて、タイソンズコーナーそのものが発展した。技術ブームと政府主導の着実な経済も、急速な成長をうめい、人口構成は次第に多様化していった。その経済でフェアファックス郡は国内最大級に裕福な郡になった。