1960年、アメリカ空軍戦略航空軍団（SAC）は、平時に核武装したB-52爆撃機をソ連国境沿いに飛行させる空中待機プログラム、クロームドーム作戦を開始した。この作戦は常時12機以上の爆撃機を飛行させておくというものだった。これら爆撃機がソ連からの先制攻撃時のSACの攻撃力となり、重要な核抑止力になっていた。1961年初頭、B-52は、チューレ空軍基地のソ連のミサイル発射に対応する戦略的に重要な弾道ミサイル早期警戒システム（BMEWS）を視覚監視するため、極秘の「ハードヘッド」任務（または「チューレ監視任務」）で基地上空も飛行していた。空中から監視することで、もし基地と北アメリカ航空宇宙防衛司令部（NORAD）との通信が途絶した場合に、爆撃機のクルーが途絶の原因が敵の攻撃か技術的トラブルかを判断することができた。監視任務は、任命された機体が中間地点であるバフィン湾の北緯75度0分 西経67度30分に達した時点で開始され、基地上空35,000フィート (11,000 m)で、8の字飛行で上空待機することとされていた。1966年、国防長官のロバート・マクナマラは、BMEWSシステムが完全に稼働し、ミサイルの配備によって爆撃機の重要度が減少しており、また1億2千3百万ドル（2009年時点での8億2千8百万ドルに相当）かかる経費を削減できることから、「クロームドーム」の中止を提案したが、SACや統合参謀本部はこれに反対し、4機の爆撃機の小部隊が毎日警戒に当たることで妥協した。計画は縮小され、1966年のスペインでのB-52墜落によりその危険性が浮き彫りになったにもかかわらず、SACは1機をチューレ空軍基地の監視に割り当て続けた。軍以外の当局は具体的な作戦内容について「知る必要性 (Need to know)」がないとして、SACはこの割り当てについて知らせていなかった 。
低翼配置の後退翼の機体で、テールに尾翼があるというのはXF-88と同じであるが、胴体は3.2m延長され尾翼面積も拡大している。水平尾翼の位置も垂直尾翼基部から垂直尾翼上部に移されている。その一方、主翼面積はXF-88とさほど変わらず、翼面荷重は高くなり後述する通り本機の欠点となった。機関はジェットエンジンの双発であり、エアインテークは主翼付け根に、ノズルは胴体後部（テールの付け根）にある。武装としては内蔵機関砲のほか、胴体下3箇所のパイロンに爆弾や増槽の搭載が可能。要撃機型は空対空ミサイルを4発搭載可能である。要撃機型のミサイル搭載方式は胴体前部のウェポンベイであるが、半埋め込み式で扉は無く、機外側に半埋め込み式で2発、もう2発を機内側に搭載し、機外搭載ミサイルを撃ち尽くすとミサイルのラックが回転し機内側のミサイルが露出する仕組みになっている。設計上はミサイル以外の武装も搭載可能であったが、空対地兵装を搭載することはなかった。なお、増槽はミサイル発射時にブラストが直撃し吹き飛ぶ恐れがあったため、ミサイルと同時に搭載しないか発射前に投棄が必要となる制約があった。本機は登場した当初はマッハ1.7を誇り当時最高速の戦闘機であったが、程なくしてマッハ2級の戦闘機が続々と登場し、一転して速度性能では平凡な機体になってしまった。ただ本機の最高速度がマッハ2に達しなかったのはエアインテークの形状が固定式であるためであり、J57エンジン双発のパワーは決して後に登場したマッハ2級機に劣るものではない。そもそも、いかに高性能な超音速機といえども、そうそう実運用では超音速が出せるものではなく（アフターバーナーを使用する事によりたちまち燃料を消費してしまう）、マッハ2以上の最高速度に大した意味がある訳ではない。本機がマッハ1級でありながら高速偵察機としてベトナム戦争で活躍した実績がその事実を如実に物語っている。また、マッハ2を超える速度を発揮するのに必要な可変式エアインテークは構造が複雑で重く、信頼性・整備性や製造・運用コストなど、速度性能を向上する以外のデメリットが大きい。1970年代後半から1980年代以降、戦闘機の最高速度は重要課題でなくなったため、マッハ1台後半～マッハ2.0程度で頭打ちになり、低下しているとさえ言える状況である。一方で、水平尾翼をT字配置として垂直尾翼の上に持ってきた設計は、超音速戦闘機としては致命的で、明白な大失敗であったと言える。迎角を大きく取ると主翼の後流が水平尾翼の効果を無くし、急激なピッチアップを伴う回復困難な失速（ディープストール）を生じる事となった。そのためピッチ・コントロール・システムが付加され、機体の運動を制限して対処している（本機と同様にT字尾翼を採用したF-104も同様の欠陥を抱えており、同様に機体の運動を制限して対処した）。そのため高翼面荷重の設計と相まって、本機の運動性能はあまりよくない。要撃機や偵察機としてはともかく、本来の開発目的であった戦略航空軍団の長距離戦闘機（爆撃機護衛あるいは爆撃機の安全のための敵国上空の制空権確保が任務であり、格闘戦能力は必須である）には全く向いていなかったと言える（一方で、通常水平尾翼を廃して大型のデルタ翼を装備したF-102の改良型F-106は、本来はミサイル運用を主眼とした要撃任務に特化して設計されたにも関わらず、エンジンの高推力も手伝って良好な運動性能を見せている）。1961年までの5年間においてF-101はアメリカ空軍でもっとも事故率が低い戦闘機であったが、こうした設計上の問題に起因する厳しい運用制限を課せられた上でのものだった。