太平洋戦争中の酷使により鉄道車両の多くは荒廃し、米軍の空襲により多くの車両が焼失した。終戦後は旅行の制限がなくなったことにより、さらに混雑が激化し、車両の荒廃も加速度的に進んでいった。戦後の混乱も沈静化した1949年（昭和24年）から1952年（昭和27年）にかけて、更新修繕Iが行なわれ、戦前同様の状態に復していった
新製から10年程度を目処に行なわれる更新修繕で、1937年（昭和12年）に事故復旧を兼ねてモハ31形1両、1940年（昭和15年）から1943年（昭和18年）までにモハ31形75両、サハ39形16両、1940年（昭和15年）にサロ37形が格下げ改造（後述）と併施で実施された。1937年の事故復旧による2両（31021, 31022）は妻面に窓を明け、31021と31074は試作的に屋根上の通風器を増設して3列とした。その後、更新修繕と併施で妻面への窓増設と通風器の3列化は継続して行なわれたが、全車に及ぶことなく中止された。
京浜線に集中投入された30系に対し、本系列は山手線や中央線にも直接投入された。モニター屋根の老朽木造車の多かった両線において、鋼製丸屋根の新造車である本系列は、まさに「掃き溜めに鶴」の存在で、乗客は先を争ってこの31系電車に乗車したという。これにより、中央線に配置されていた老朽木造車のモハ1形が廃車された。
1972年7月から1986年4月までの13年9ヶ月間、691話にわたって、刑事ドラマ『太陽にほえろ!』で露口の代表作ともなった山村精一警部補（落としの山さん）を演じた。以降しばらく『太陽にほえろ!』のスケジュールのため約10年間映画から遠ざかり、テレビのみの活躍となった。1973年:大河ドラマ『国盗り物語』に出演。同ドラマの原作の一つとして取り入れられた、『梟の城』の主人公であり織田信長の命を狙う忍者・葛籠重蔵を演じた。この年『木曽街道いそぎ旅』にも山口崇とのダブル主演で出演、露口は、「三枚目で売り出したいと、事務所と話し合っていたときにこの役が来た。」と語り、演じる以上は最高に無口な、ニヒルな男を目指したという。1974年:必殺シリーズ『暗闇仕留人』の石屋の大吉役のオファーを承諾したが、最終的には断った。当時多くの新聞、雑誌などには露口で決定とあり、露口版の設定は妻がいる設定であった。同年『編笠十兵衛』に小林平八役で出演。単なる悪役に収まらない、魅力的なキャラクターを演じた。1975年には『影同心』への出演も予定されていたようで、昭和49年12月28日のスポーツニッポン等には、渡瀬恒彦、金子信雄、旧知の仲の山口崇と並んで露口の名前がある。1976年:大河ドラマ『風と雲と虹と』では、主役の加藤剛演じる平将門に好感を持つ一方で、彼の政治力への懸念と、坂東の大地を将門と朝廷との争いで荒廃させたくないとの判断から、最終回で涙を呑んで将門を弓矢で射殺す重要な役である、関東の豪族・田原（俵）藤太を演じた。なお、2016年の大河ドラマ『真田丸』で話題になった「黙れ小童！」というセリフは、『風と雲と虹と』と露口の大ファンであった脚本家の三谷幸喜がセリフを転用したもので、露口へのリスペクトを込めたものであった。1980年:今村昌平監督『ええじゃないか』 で約10年ぶりとなる映画出演を果たし、キネマ旬報助演男優賞の候補者の一人にもなる。向田邦子原作のNHKドラマ『阿修羅のごとくパート2』で緒形拳の演じた里見鷹男の役を引き継いだ。1981年:TBSドラマ『父母の誤算』では自身初の連続ドラマでの主役を務めた。1982年フランスの映画情報誌Postif4月号今村昌平特集において、ええじゃないかの劇中写真が使用される形で桃井かおりと共に表紙を飾った。1983年:TBSドラマ『誰かが私を愛してる』に出演。『週刊テレビ番組』昭和58年1月21日号のインタビューで「ヤマさんとは違う初のシティロマンドラマに大変気持ちが乗っている」こと、最初に話が来たのが前年の夏であったが、その後話が無く、企画が没になったかと思っていた頃、正式なオファーが来たことなどを語った、また撮影中、実際に外国人観光客からホテルマンと間違われることもあった。1984年:五社英雄監督『北の螢』出演に際し役作りのため、『太陽にほえろ!』の劇中でも少し長髪になっている。1986年4月:放映開始から約14年間出演した『太陽にほえろ!』を、同年4月11日放送の第691話（スペシャル放送）「さらば! 山村刑事」の回を持って殉職という形でついに降板した。その前日の4月10日放送のワイドショー番組『ルックルックこんにちは』のインタビューに答え、山さんが好きであったこと、山さんを降りる寂しさ、そして山さんが重荷であったことを語ったまた雑誌にインタビューには「山さんを愛していたので淋しくなる。」と語った。最後のシーンの撮影日（同年3月27日）には前年に太陽にほえろを降板した渡辺徹と太陽にほえろに出演中の地井武男も花を持って駆け付けた。