1926年にヒルダ・オルデマンと結婚。神学を学んだ彼女はハイネマンをキリスト教に目覚めさせたのみならず、自身も社会奉仕活動に身を挺しており、知的障害者、女性受刑者、麻薬中毒患者のための支援団体を設立し、またアムネスティ・インターナショナルの顧問となった。彼女との間に一男三女が生まれた。次女クリスタの娘（ハイネマンの外孫）クリスティナは、GVP党員でのちハイネマンと共にSPDに移ってノルトライン＝ヴェストファーレン州首相となったヨハネス・ラウと結婚した。1999年の大統領選挙にラウはSPD候補として立候補したが、野党民主社会党（PDS）が候補として立てたのは、ハイネマンの長女でクリスティナの伯母にあたる神学者・平和運動家のウタ・ランケ＝ハイネマンだった。投票の結果第二次投票で過半数を制したラウが第8代大統領に選出された。
彼の名を冠した学校、とりわけ障害者のための学校がドイツには数多く存在する。一方、1848年の革命に参加した自らの曾祖父らのために、ラシュタットにドイツ史上の自由主義運動に参加した人々を顕彰する記念館を設立した。1969年の大統領就任と同時にドイツ連邦共和国功労勲章特等大十字章、またイギリスのバス勲章を受章した。ただし彼自身は勲章の受章を常に断っており、ドイツ連邦共和国功労勲章の廃止を求めていたが成功しなかった。
ハイネマンらはGVPを解党して1957年に社会民主党(SPD)に入党、連邦議会に復帰してすぐにSPD議員団幹事会員に選ばれた。翌年にはSPD党執行部入りし、プロテスタントの自由主義急進派の代表としてSPDの国民政党化を印象付け、ルール地方の産業労働者へのSPDの支持拡大に貢献した。1957年からは創設されたばかりのドイツ連邦軍の非核化運動を主導。1958年には議会演説で冷戦を「キリスト教とマルクス主義の戦い」と比喩したアデナウアーを、「キリストはマルクスのために死んだのではない、我々全員のために（原罪を負って）死んだのだ」と舌鋒鋭く攻撃する演説を行った。同年、核兵器など大量破壊兵器は国際法や連邦基本法第25条に違反すると訴え、ホロコーストも引き合いに出して反対する演説を行った。1966年、CDUとSPDの大連立によるクルト・ゲオルク・キージンガー内閣が成立すると、SPDのヴィリー・ブラント党首の推薦で法務大臣に就任した。当時刑法改正が問題となっており、ハイネマンの法相就任は野党からも歓迎する声があった。法相として刑法の民主化、すなわち懲役刑の教化刑から自由刑への方針変更や、ナチス戦犯の時効延長決定に関わった。また姦通罪や男性の同性愛が刑法の対象から外され、嫡出・非嫡出の関わりなく子供の権利が同等に扱われ、信教による兵役忌避者が不当に罰せられないよう変更されたのも、彼の在任中に行われたものである。意外に思われたのは、学生運動の盛り上がりという時代背景からキージンガー内閣が1968年に制定した非常事態法に反対しなかったことだが、この法律は非常事態の際に市民を政府の恣意的弾圧から守るものだとしていた。過激化する学生運動に対してキージンガー首相が「武装化した左翼過激派による反議会主義的行為」と非難した際も、ハイネマンは学生運動を民主主義への懐疑によるものと理解を示し、同時に暴力行使を批判した。
19世紀になるまで、現在の中核市区に住んでいたわずかなカトリック信者はウンターコッヘン教会区に属していた。その後1868年にゲオルク・モルロクによって設計されたマリエン教会が建設された。1872年にアーレン固有の教会区が設けられ、1913年に2つめの教会聖ザルヴァートール教会が建設され、1969年に聖十字架教会が建設された。1963年には2つめの教区聖マリア教会区が設けられ、1968年に解体された古いマリエン教会の跡地に、1972年に新しい教会が建設された。1970年には聖アウグスティヌス教会も建設された。1976年に聖エリーザベト教会、1988年に聖トーマス教会が建設された。さらに1963年から聖ミヒャエル司牧会が設けられた。ホーフヘルムヴァイラーでも1904年にはすでに固有の聖ボニファティウス教会が建てられた。デヴァンゲン、エプナート、ホーフェン、ヴァルトハウゼン、ヴァッサーアルフィンゲンの各地区は、宗教改革後もカトリックに留まっていた。このため、これらの地区には古い教会組織や教会堂が遺っている。デヴァンゲンのマリア被昇天教会は、初期ゴシック様式の塔を持ち、身廊は1875年に新たに建設された。エプナートの処女受胎教会は1720年から1725年に建設され、1979年から1981年に改築されて拡張された。ホーフェンの聖ゲオルク教区教会は防衛教会で、現在の身廊は1762年から1775年に建設された。教会の近くに後期ゴシック様式のオッティーリエン礼拝堂があり、入り口の上には1462年の年号が記されている。先行する建物の基礎は11世紀と13世紀のものである。ウンターコッヘンの聖マリア教会は、1248年に最初の記録がなされており、アーレンのカトリック信者は長きにわたってこの教会に属していた。ヴァルトハウゼンの聖ニコラウス教区教会は1699年から1716年に建設された。ヴァッサーアルフィンゲンは、初めはホーフェンの支教会であったが、おそらく1353年に聖シュテファヌス礼拝堂が建設され、1832年に増築された。1834年に固有の教区が設けられた。1881年から1883年に聖シュテファヌス教会がネオロマネスク様式で建設され、現在はこの教会区の象徴的建造物となっている。これ以後礼拝堂は「アルテス・キルヒレ」（古い小教会）として知られている。ファハゼンフェルトも1895年に固有の教会「最も聖なる心のイエス」教会を設けた。アーレン市内のすべてのカトリック教会は現在、ロッテンブルク＝シュトゥットガルト司教区オストアルプ主任司祭区の4つの司牧会に統合されている。この司牧会は、アーレン市外の町村をも含んでいる。エッシンゲン、デヴァンゲン、ファハゼンフェルトは司牧会2に、ホーフェンとヴァッサーアルフィンゲンは司牧会4に、アーレンの2つの教会とホーフヘルムヴァイラーは司牧会5に、ヴァルトハウゼン、エプナート、オーバーコッヘン、ウンターコッヘンは司牧会6に属している。