于1947－1948年间出任西区主席。从1968到1984年，施密特担任德国社会民主党副主席。在党内他是多数制的倡导者。与另外两个社民党总理维利·勃兰特和格哈特·施罗德不同，施密特从来不曾担任党主席，他在任总理期间，勃兰特依旧是党主席。施密特是土耳其加入欧盟的重要反对者，并经常在时代周报上撰文为这一主张辩护。对于德国拆除所有核电站的主张，施密特持反对态度。尽管这一决议已经在后来的施罗德政府得到通过。从1953到1962年，1965到1987年，施密特任联邦议会议员，代表Hamburg-Berge