ミュラー内閣崩壊後、社民党の黙認のもと、コンスタンティン・フェーレンバッハを首相とする中央党と民主党と人民党の三党連立の少数派政権へ移行した。これ以降左右両派と連立が可能な中央党を中心とした連立政権の時代が始まる。1921年5月にフェーレンバッハ内閣は連合国との賠償総額確定交渉において1320億マルクという巨額の賠償金と拒否するならばルール地方を占領するという最後通牒を受けた。同内閣は国民や国会多数派の支持を受けられる原則的立場に固執したため、非現実的な方針をとって追い詰められて退陣を余儀なくされた。この際に重工業界からの反対で人民党が政権から下野したため、後続の中央党左派ヨーゼフ・ヴィルト内閣はヴァイマル連合での組閣を試み、社民党が政権参加することになった。もっともヴァイマル連合の主役はすでに中央党に移っていた。1921年9月のゲルリッツ党大会で30年ぶりにエルフルト綱領の改正を行い、ゲルリッツ綱領を制定した。エルフルト綱領との違いとしては、第一次世界大戦とヴェルサイユ条約を新事実として受け入れ、ドイツ革命の成果を左右両派の攻撃から擁護すること、特に自由主義の擁護を社会主義の擁護と同列に置いていること、肉体的労働者だけでなく、精神的労働者（公務員、使用人、芸術家、文筆家、教師など）も党に結合させようとしていること、エルフルト綱領に見られた「小経営の必然的没落」という言葉は事実に反するため削除されたこと、エルフルト綱領が社会主義社会を資本主義社会に対する自然的必然的な発展段階と位置付けていたのに対し、ゲルリッツ綱領では社会革新をもたらすための民衆の意思の必要性を強調していることなどがあげられる。また「自由な人民国家(freier Volksstaat)」というラッサール主義を思わせる表現が取り入れられ、「革命(Revolution)」という表現も「克服する(Überwinden)」、「改新(Erneuerung)」、「改造(Unform)」といった表現に変えられた。つまりエルフルト綱領よりも修正主義的、自由主義的な綱領になっていた。1920年7月、ソビエト連邦のコミンテルン加入問題をめぐって独立社民党が割れ、コミンテルン加入に賛成する独立社民党内の極左派は共産党へ移ったため、独立社民党の極左傾向は大幅に減少し、社民党と独立社民党の主張がほぼ一致するようになり、1922年9月24日にニュルンベルクで開いた合同大会で独立社民党は社民党の下に合流した。この際に党名を「ドイツ合同社会民主党（Vereinigte Sozialdemokratische Partei Deutschlands, 略称VSPD）」に改名した（1924年6月11日から14日に開かれたベルリン大会で「ドイツ社会民主党」の党名に戻った）。独立社民党員が戻ってきたことにより社民党は左にウィングを伸ばし、連立与党として安定性を欠く存在になった。1922年11月にエーベルト大統領が人民党がグスタフ・シュトレーゼマンの下に帝政色を薄めてきたと判断して連立に加えようとした際にも社民党が反対し、そのためにヴィルト内閣が瓦解している。次のヴィルヘルム・クーノ内閣では社民党は与党からはずされ、代わって人民党が入閣したため政権の右派色が強まったが、1923年初頭にはフランスとベルギーによるルール地方占領（ドイツがヴェルサイユ条約に不履行があったと理由をつけて占領した）があり、国内の反仏挙国一致ムードが高まった。クーノ内閣はルール地方住民に「消極的抵抗」を呼びかけたが、ルール地方を失ったことで石炭を英国はじめ外国に頼らざるを得ず、それによって外貨を大きく消費したうえ、ルール地方支援によって膨大な支出を迫られた。それは財政的裏付けのない通貨の無制限発行で対応するしかなく、ハイパー・インフレが急速に進行した。しかしクーノ内閣は交渉はあくまで撤退後という立場を崩さなかったので打開のめどが立たなかった。8月には挙国一致ムードも萎れ、社民党がクーノ内閣に不信任を通告するに及んでクーノ内閣は辞職することになった。その後継として人民党のシュトレーゼマンの内閣が発足したが、危機的状態から大連立の必要性を痛感した社民党も参加。社民党（独立社民党からの帰還組）のルドルフ・ヒルファーディングが大蔵大臣となる。ヒルファーディングは新マルクの発行を主張したが、断交に踏み切れずに10月6日に更迭された。しかしこの考えは通貨全権委員ヒャルマル・シャハトのレンテンマルクによって実現され、インフレは奇跡的に収束した。1923年10月10日、社民党左派のエーリヒ・ツァイグナーが首相を務めるザクセン州政府に共産党員が閣僚として参加し、共産革命の準備のため赤色軍事組織が創設されるとともにソ連から将校が百人ほど送り込まれた。この革命準備はテューリンゲン州でも行われた。これに対してシュトレーゼマンの中央政府は軍を出動させてザクセンとテューリンゲンを占領し、共産党参加政府を解体した。社民党はシュトレーゼマン内閣の一員だし、社民党本部はツァイクナーが共産党員を入閣させたことには反対の立場だった。しかし「レーテ共和国」とは違い、一応合法的な社民党の政府がいきなり軍の討伐を受けて滅ぼされるというのは同じ党に属する者として忍びがたいことであった。社民党は右派のグスタフ・フォン・カール率いるバイエルン州政府はザクセン州以上の反逆的行為を行っているとしてバイエルン州政府にも同じ処置を取ることをシュトレーゼマンに求めたが、拒否されたために連立から離脱した。以降社民党は1928年6月まで野党となった。社民党の離脱で議会の基盤を失ったシュトレーゼマン内閣は11月末には倒れ、ブルジョワ少数内閣のヴィルヘルム・マルクス内閣に代わった。なおヒトラー内閣の授権法に反対した事で知られる社民党だが、1923年10月13日にシュトレーゼマン内閣の独裁権を認める「授権法」や同年12月8日にマルクスに独裁権を認める「授権法」には賛成して可決させている。1924年2月22日には社民党をはじめとするヴァイマル連合は、鉄兜団や国家社会主義ドイツ労働者党(NSDAP、ナチ党)の突撃隊、共産党の赤色戦線戦士同盟などヴァイマル共和政打倒を目指す準軍事組織に対抗するため、共和政を守る準軍事組織として国旗団を創設した。経営側の攻勢に対して革命以来の既得権を失っていた社民党は労働者層から失望され、1924年5月4日の国会選挙では現有172議席を100議席に減らす大敗を喫した。一方国家人民党は96議席に躍進し、選挙後に合流した農村リスト(Landliste)の10議席と合わせると社民党の議席を超えた。だがマルクス内閣はシュトレーゼマン外交の転換を唱える国家人民党との組閣交渉に失敗したので再度の解散総選挙に踏み切った。12月7日に選挙があり、社民党は131議席を掌握して第一党の地位を奪い返したが、議会勢力図に大きな変動はなかった。そのため選挙後の組閣交渉も難航。社民党についてはブルジョワ政党の間では政権参加を拒否する声もあれば、政権参加させることで政府責任を回避しようという声もあった。しかし結局1925年1月中旬に国家人民党が政権参加した右派から中道のブルジョワ政党政権ハンス・ルター内閣が発足した。1925年2月28日にエーベルト大統領が死去。3月29日に行われた第一次大統領選挙では社民党からはプロイセン州首相オットー・ブラウンが出馬したが、第一次選挙は過半数を取った候補がなかったので当選者無しとなり、4月26日に第二次選挙が行われることになった。第二次選挙では社民党はブラウンを取り下げて「ヴァイマル連合」の仲間として中央党のマルクスを押した。第一次選挙ではブラウンの方がマルクスより票を取っていたが、ブラウンはプロイセン以外では馴染みが薄かったのでマルクスの方が当選の可能性が高いという判断からだった。しかし結局、保守・右翼が擁立した帝政復古主義者パウル・フォン・ヒンデンブルク元帥に僅差で敗れた。この大統領選挙には共産党議長エルンスト・テールマンが当選の見込みもないのに泡沫候補として出馬していた。ヒンデンブルクとマルクスは僅差であったことからテールマンのせいでリベラル・左翼票が割れてマルクスが敗れた面があり、マルクス陣営は「共産党がヒンデンブルクを助けた」と非難した。またカトリックの立場から中央党候補を支持すると思われていたバイエルン人民党が社民党を嫌ってヒンデンブルク支持に回ったことも誤算だった。1925年9月のハイデルベルク党大会でハイデルベルク綱領が制定された。党内左派が影響力を強めていたため、この綱領はゲルリッツ綱領と比べると左傾化しており、エルフルト綱領に回帰した感があった。ゲルリッツ綱領で盛り込まれた「自由な人民国家」という表現は削除され、逆にゲルリッツ綱領で削除されていた「小経営の必然的没落」の件について「大経営の強化に伴って、小経営の社会的意義が減少した」と説くことで修正主義的見地を否定した。また資本主義独占形態として金融資本を初めて指摘。資本主義の現段階は金融資本の時代に入ったとし、階級闘争とともに国際競争が激化し、戦争の脅威が存在することを解く。そして人類を戦争の破滅から防衛する意思を掲げ、民主的共和国を維持・完成させることこそが労働者階級の解放に必要であると強調している。1925年10月には国家人民党がロカルノ条約に反対して政権離脱したため、ルター内閣は弱体化して12月に総辞職したが、1926年1月には国家人民党を欠いたまま再組閣した。一方この頃国会では王侯財産没収が問題となっていた。これは1925年に旧王侯が戦後没収された財産の返還を要求して保守的な司法がそれを認めたことに労働者層が強く反発していた問題である。当時「統一戦線戦術」をとっていた共産党は社民党に王侯財産無償没収を求める国民請願の共闘を提案した。社民党支持層の間にも王侯の要求は不当なものと見えたので、社民党執行部はそれぞれ独自に活動するという条件で共産党の提案に同意せざるを得なかった。1926年3月に行われた国民請願は1200万以上の賛成を得て国会に提出されたものの拒否されて国民投票に付されることになったが、賛成票1560万票にとどまり、過半数に達しなかったので失敗に終わった。この件は社民党のジレンマを示すものとなった。1926年5月に公布された帝政時代の黒白赤の国旗の掲揚を商船や在外公館に命じた大統領国旗令について社民党は「復古主義」として強く反発。この責任を取ってルター内閣は辞職し、首相のみが交代した第三次マルクス内閣が発足した。1926年12月には社民党のシャイデマンが国会で独ソ秘密軍事協定の一部を暴露し、軍備制限違反としてマルクス内閣を追求した。これによりマルクス内閣は総辞職に追い込まれた。しかしこの一件は社民党が再軍備の邪魔になるという認識を大統領側近クルト・フォン・シュライヒャーに持たせるきっかけとなった。1927年2月には国家人民党が政権参加する形で第四次マルクス内閣が発足したが、学校法を巡って内部分裂し、1928年3月末に国会解散となった。