日本では、16世紀半ば、北条氏康の小田原支配時に早川から水を引き、小田原城下に飲用として供した小田原早川上水が最古の水道と考えられている。豊臣秀吉の小田原征伐に参陣した諸大名たちは、この上水を見て、自領の上水開設の参考にしたものと考えられている。徳川家康もその一人で、1600年頃の江戸の都市建設のために井之頭池から引いた神田上水をはじめ、その後、玉川上水、千川上水などが江戸の町に引かれていった（後に青山・亀有（本所）・三田の3つを加えて「六上水」と称した）。現代から見れば、浄水施設や各戸給水がないという問題点があったものの、当時世界でもっとも進んだ設備を有していた。日本で最初に本格的都市型、埋設式上水道を敷設したのは、讃岐高松藩と言われている。藩主松平頼重は、玉川上水より9年早い寛永21年（1644年）、矢延平六に命じて、高松城下に、配水枡・配水管を地中に埋設した本格的な上水道を敷設した。また、日本で現在も使われている最古の水道は、熊本県宇土市に在る轟水源を水源とする轟泉水道で宇土藩初代藩主細川行孝が造り寛文3年（1663年）に完成したものである。始めは丸い土管の水道管で造られていたが、完成後100年程して6代目藩主細川興文のとき丈夫で長持ちする石の水道管に改修され今日に至る。日本の近代的水道は、1887年（明治20年）10月17日に、横浜の外国人居留地で給水されたのが始まりである。当時居留地では、井戸を掘っても塩水が混じり、飲用に適さなかった。そこで当時の神奈川県知事沖守固は、英国陸軍工兵大佐の技師ヘンリー・S・パーマーを顧問に招き、資材も英国からの輸入に頼る形で、相模川の上流に水源を求めて近代水道の建設に着手した。1885年（明治18年）に始められた工事は、1887年（明治20年）9月に竣工し、翌月から給水が始められた。近代水道は、1890年（明治23年）に水道の全国普及と水道事業の市町村による経営を内容とする水道条例が制定されたことにより、都市部で急速に実用化された。旧来の水道設備が充実していたために整備が遅れていた東京でも、1898年（明治31年）には多摩川から淀橋浄水場を経由して、市内へと配水する設備が完成した。日本に近代上水道が導入されたきっかけとしてはコレラなどの伝染病への対策という面もあるが、多少なれど事業当事者にとっての利潤という面も無視できなかった。東京府水道の建設などは当時の政府/内務省と当時の野党である改進党の思惑に、条約改正を目論む外務省が関わる東京改造計画が絡んだ。日本では上水道網の導入が検討されていた明治中期、上水道が需要を集める保証は無かったとされている。特に湧水に恵まれた京都市などでは「京都の人がわざわざ金を払って水道を使うだろうか?」「使うだけの『水質』の魅力が水道にあるのか?」と甚だ疑問の目が向けられていた。
水道のルーツは古代地中海沿岸諸国とされる。当初は、深いところにある井戸の水を遠くに運ぶための水路であったと考えられている。古代ローマ人は後世「ローマ水道」と呼ばれることになる巨大なネットワークを構築したが、中世以後衰微する。水道の近代化は1787年のパリで蒸気式揚水用ポンプが使われ、1829年にロンドンで砂濾過池による浄水設備の設置以降のことであり、鉄製パイプによる水道管の開発など19世紀のヨーロッパで急速に発達した。
祖父母が京都市下賀茂の映画撮影所の裏で芝居や舞踊の稽古場を営んでいた縁で、1938年12月、7歳のときに羅門光三郎主演の映画『暴れだした孫悟空』に小さくなった孫悟空役で出演し、子役俳優となる。その後も、端役などで映画に出演。その後、一家で中国・汕頭市に渡り、汕頭日本東国民学校高等科卒業。中国にて終戦を迎える。1946年に家族で京都に引き揚げた。同年、生活の糧を得るため、芦乃家雁玉の主宰する「コロッケ劇団」に所属し、芦の家 春一を名乗る。同劇団は軽演劇を標榜していたが、その実は仁輪加を売り物にしていた。地方巡業や、京都の富貴にて前座修行する。1947年11月、戎橋松竹の楽屋で2代目桂春団治に「落語家にならへんか」とスカウトされ、雁玉や林田十郎のすすめもあり、正式に入門して桂 春坊を名乗った（彼は入門まで落語を聞いたことがなかった）。落語家としての初舞台は京都座だという。以降、2代目春団治の側近として修業を重ねた。晩年の三遊亭志ん蔵にかわいがられ、志ん蔵が怪談噺を演じる際に、客席に乱入する幽霊役を演じたという。1953年、上方若手落語家が戎橋松竹派と宝塚落語会派に分裂した際に、宝塚へ行く。しかし、そのまま軽演劇の宝塚新芸座に入団し、俳優として活動。しかし1958年に舞台から転落する事故に遭って大怪我を負い、休業。1959年、上方落語協会に入会し、落語界に復帰（3代目桂春団治の襲名に乗じて、3代目門下に入り協会末席の香盤という条件で、一一（かずのはじめ、のちの3代目林家染語楼）と共に入会を許される）。松竹芸能に所属。道頓堀角座等に出演した。1960年10月、2代目桂小春団治を襲名。1963年、日本ドリーム観光へ移籍。千日劇場で公開収録された関西テレビ『お笑いとんち袋』（3代目桂米朝司会）の回答者として活躍。1967年4月、吉本興業に移籍。1968年4月に吉本側から改名を促され、前述の初代露の五郎兵衛の流れを汲む2代目露乃五郎を襲名した。本業の落語のかたわら、俳優としてテレビドラマに多く出演した（後述）。1980年、吉本興業を離れてフリーとなった。1987年に亭号の表記を「露の五郎」に改める。1994年、上方落語協会会長に就任し、2003年まで務めた（後任は桂三枝（現：6代目桂文枝））。2005年10月、前名「五郎」の由来である大名跡「2代目露の 五郎兵衛」を襲名。同年には歌舞伎の4代目坂田藤十郎の襲名披露もあり、両界そろって数百年ぶりの名跡復活が話題となった。晩年は病に苦しみ、2002年9月に脳内出血、同年11月には奇病の原発性マクログロブリン血症を患った。2009年3月30日、多臓器不全のため77歳で死去。