1974年5月16日、ブラントが「ギョーム事件」によって辞任した後を受けて急遽連邦首相に就任し、オイルショックによる世界的な経済不況の中で、積極的な景気維持の策をとった。隣国フランスの大統領ヴァレリー・ジスカール・デスタンと緊密に協力し、就任間もなく欧州理事会を設立。1975年のヘルシンキ条約で全欧安保協力機構 (OSCE) の創設に貢献した。1976年の総選挙で議会第一党の座をドイツキリスト教民主同盟 (CDU) に奪われたが、FDPとの連立維持で政権に留まった。テロリスト集団ドイツ赤軍分派の活動、特に1977年の「ドイツの秋」と呼ばれる財界要人誘拐殺人・ハイジャックなどの一連の事態に対する彼の対処は、困難を伴いつつも妥協しない断固としたもので、テロリストによるルフトハンザ航空181便ハイジャック事件に際しては、テロ対策特別部隊GSG-9を投入して、それを果断に鎮圧した。シュミットの弁舌の才もその政権運営に大きく寄与した。アメリカ合衆国国務長官のヘンリー・キッシンジャーとも親交のあるシュミットは、1977年には初めて北大西洋条約機構 (NATO) とワルシャワ条約機構との軍事力不均衡、特にソ連軍の中距離弾道ミサイルSS-20の危険を主張。かくて彼の党派は1980年の選挙で、ソビエト連邦との戦略ミサイル制限交渉を進め、同時にアメリカ軍のパーシング2ミサイルを西ドイツに配備させるという「NATO二重決定」の主張に踏み切った。彼は自らの政治的展望を1979年のソ連軍のアフガニスタン侵攻に対するNATOの対策と絡ませていた。この主張には国民の多くのみならず、平和主義路線をとってきた自党内からさえも批判が巻き起こった。この選挙でCDUからの第一党奪還は出来なかったものの、やはりFDPとの連立で議会での過半数確保を乗り切り、11月に首相としての再指名を果たした。この間1981年10月に心臓にペースメーカーを付ける大病をしたが、快復している。外交政策においてシュミットはこれまでの保守政権が行ってきた親イスラエル政策を改め、石油ショックの教訓からアラブ諸国へと接近し、1981年5月にはサウジアラビアを訪問してレオパルト2戦車の売却を行った。このことはイスラエル政府を激怒させ、イスラエル首相のメナヘム・ベギンはシュミットが元ナチス・ドイツ軍の将校であった過去を取り上げて「総統ヒトラーに忠誠を誓った過去がある」と非難した。シュミットの社会民主主義的な社会・経済政策は、次第に政権維持の頼みの綱であるFDPとの溝を大きくしていった。FDPは自由主義経済と財政再建を主張し、予算案で対立が起きていた。1982年、彼は連邦議会からの不信任案に競り勝つも、ついに9月17日、連立与党FDPの大臣4人が内閣を去った。シュミットは臨時外務大臣を兼任し、SPDのみでの少数与党で内閣の政権維持の試みを重ねたが、10月1日建設的不信任決議（罷免と同時に後任を任命する不信任決議）が成立、政権継続断念を余儀なくされた。これは、戦後西ドイツ史では初めての出来事であった。後任の首相にはCDU・FDPの賛成多数で不信任案決議を提出したCDU党首のヘルムート・コールが選出された。
前橋・高崎（両市計約70万人、人口密度約1,090人/平米）は関東平野の北西端に位置し、群馬県の行政・商業・産業の中心となっている。前橋・高崎都市圏は平成の大合併により山間地域を合併したため人口密度は下がったが、旧前橋・旧高崎地域は15km圏内の市街地で充墳され、前橋・高崎都市圏を形成している。隣接する前橋市・高崎市・伊勢崎市・藤岡市・富岡市・安中市・渋川市及びその周辺自治体の人口は約120万人。一方、北部一帯は谷川岳に代表される峻険な山岳地帯となっており、その湧水は当地域の殆どの人口が集中する利根川流域に結集する。この南部平地部と北西部山岳部では気候も全く異なり、前者の冬の平均月最低気温が-1.0度程度で最深積雪も殆ど無いのに対し、後者では気温-8.0度、積雪2m以上に達する気象庁観測点も存在する。人口密集地域が限られるため、公共交通網整備は比較的効果的に行き届いており、道路では関越自動車道や北関東自動車道、国道17号、国道18号、国道50号、鉄道では高崎線、信越本線、上越線、両毛線、八高線、吾妻線、上毛電気鉄道上毛線などが整備されている。この地域は古くは毛野国に、また令制国時代にはこれを分かった上野国に属した。国府は車郡（群馬郡）に置かれていたとされる。平安時代初頭、上野国は常陸国（茨城県中北部）等とともに親王任国とされ、その親王の子孫である平氏が土着したとされる。白井長尾氏や総社長尾氏、沼田氏、安中氏などがその後裔といわれ、同一県内でも藤原北家流諸氏や清和源氏流諸氏の輩出が多い太田市や桐生市周辺とは対照的である。この地域は北部山岳地帯を中心に関東の北の温泉場として著名であり、観光開発が施されている。温泉場の数は伊香保温泉、四万温泉、草津温泉、水上温泉、猿ヶ京温泉など200を越し、特に草津温泉は日本一の自噴湧出量を誇る名湯とされる。一方、首都東京からの交通の便は決してよいとは言えず、草津温泉の場合、上野駅からJRの在来線特急で約2時間30分の長野原草津口駅からさらに路線バスで20～30分かかり、また直行高速バスでも新宿駅から3時間30分以上かかり、車利用でも関越自動車道の渋川伊香保ICから約50kmの山道を行かねばならない。同じ北関東の温泉場である鬼怒川温泉（新宿駅から電車で2時間）や塩原温泉（東京駅から新幹線で1時間20分の那須塩原駅から路線バスで1時間）、那須温泉（同）に比較しアクセスしにくい状況もあり、近年では誘客が芳しくない。産業は農業が非常に盛んであり、前橋市の農業産出額は約300億円に達し、次いで嬬恋村も100億円以上を産する。工業は北関東工業地域の一端にあり、年間製造品出荷額は高崎・前橋だけでも1.2兆円を超える。年間商品販売額は高崎・前橋だけでも群馬県内の総販売額の50%以上を占める。