在德国联邦议院以267票当选联邦政府总理。在任期间最大的挑战是石油危机。在他的领导下，德国比其他多数工业国家更平稳地度过了这一危机。另外对于当时德国之秋的红军恐怖主义浪潮，他给以十分严厉的打击。1977年他首先指出苏联SS-20中程导弹而导致相互保证毁灭的危险性，他的立场也成为促成北约Doppelbeschluss决议的导火索。这个决定在民间和党内引起很大争议。1982年晚夏，由于经济和社会政治观点的分歧，社民党和自民党联盟关系破裂。9月17日所有的自民党部长集体辞职。施密特因此临时担任外交部长