幕臣納所重兵衛の四男として武蔵国江戸の築地に生まれた。六人兄弟の末っ子。1880年（明治13年）頃、築地一致英和学校（現・明治学院大学）に入学。1883年（明治16年）2月に音楽取調掛に伝習生として入学。ピアノを鳥居忱・瓜生繁子・ギヨーム・ソーヴレー (Guillaume Sauvlet)、唱歌を上真行に学んだ。これ以前にビオラをフランツ・エッケルトに習っていたこともある。1887年（明治20年）2月、音楽取調掛卒業後、研究生兼教務嘱託となる。1888年（明治21年）9月、学習院奉職。1897年（明治30年）、明治音楽会を同志と起しオーケストラの紹介に務める（独唱・ビオラ担当）。1903年（明治36年）10月、華族女学校兼務。1912年（大正元年）、学習院を辞し森村小学校（現在の森村学園初等部）に教鞭を取る。その他明治女学校・頌栄女学校・東京高等商業学校などでも指導にあたる。森村小学校退職後仙台に移住し、同地で没した。田村虎蔵とともに言文一致体の唱歌を提唱し、『幼年唱歌』『少年唱歌』『尋常小学唱歌』『高等小学唱歌』の編纂に当たった。
桂宮家および分家の広幡家の菩提寺は相国寺塔頭の慈照院である。慈照院には桂宮家および広幡家ゆかりの建物が多く残り、客殿は桂宮邸から移築されたものである。
京都御苑内（同志社女子大学今出川キャンパスと京都御所との間）にある。桂宮邸には敷地を囲む築地塀と、表門と豪壮な勅使門の二つの門が残る。なお本来あった建物は二条城本丸に移築されて保存されている。現在、内部は宮内庁職員の宿舎の敷地として使われており（内部には仮に複数の平屋の公営住宅が建っている）、内部は非公開である。桂離宮を築いた初代智仁親王が造営した庭園および池が完全に残っており、建物と同様に日本国にとって貴重な文化財である。しかしその庭園も、近年、宮内庁職員ための公営住宅を新設するため、とり壊される危機にあった。近年、閑院宮邸が復元整備され一般に公開されて話題を呼んだことから、桂宮邸も宿舎を移設した上で復元整備し、一般に公開すべきだという声が非常に高い。幕末には孝明天皇の仮皇居となっていたこともあり、皇女和宮親子内親王はここから江戸へ嫁いでいる。
明治期の総理大臣を務めた政治家で軍人の桂太郎はその功績により、1911年（明治44年）4月21日に公爵に叙されたが、日本の公爵の英対訳は「prince」であるため、偶然にも英訳が桂宮家当主と同じ「prince Katsura」となってしまった。ただし英訳の場合、皇族は他の華族と違いをつけるため、敬称として「H.I.H（His Imperial Highness）」をつけて区別する。
1988年（昭和63年）、三笠宮崇仁親王の第2皇子である宜仁親王が新宮家を創設し、同名の桂宮を称した。ただし、これは宜仁親王のお印にちなむものであり、かつてあった桂宮との直接の関係はない。また宜仁親王は、有栖川宮の祭祀を引き継いだ高松宮宣仁親王を敬慕しており、宣仁親王の公務などを多く継承していたため、新桂宮の系統はむしろ有栖川宮に近いともいえる。宜仁親王は独身で宮家を創設し、以降も婚姻することなく2014年（平成26年）6月8日に66歳で薨去したため、この桂宮家もまた「一周年祭の儀」と、その二日後の「権舎の儀」を経て断絶となった。
第二次世界大戦終結後、クレプシュは両親とともに生まれ育ったチェコスロバキアを追放された。1949年にマクデブルクでアビトゥーアを受け、ロストックの大学で歴史学と地理学を専攻する。1954年にマールブルクでグスタフ・シュトレーゼマンの対ロシア政策についての論文で博士号を取得する。1959年から1965年までドイツ連邦軍の学術研究機関で国際政治学の講師を務めた。1963年から1969年までクレプシュはユンゲ・ウニオンの連邦代表を務める。1965年、西ドイツの連邦首相ルートヴィヒ・エアハルトのもとで選挙対策組織をまとめる役割を担う。またこの年にクレプシュは連邦議会議員となり、その後1980年まで議員活動を続けることになる。他方で1964年からヨーロッパ規模での政治活動も行っていくようになる。また同年、クレプシュは国際ヨーロッパ青年キリスト教民主主義同盟の代表、欧州経済共同体の著作権に関する指令を議論する委員会の委員にもなった。1973年には連邦議会に加えて欧州議会の議員になる。1977年から1982年までと1984年から1992年までクレプシュは欧州人民党の院内会派の代表を務めた。1982年の欧州議会議長選挙では落選したが、1992年に欧州人民党と欧州社会党の支持を受けて欧州議会議長に選出された。1994年、クレプシュは欧州議会から身を引き、保険・投資会社 Deutsche Vermögensberatung の顧問となる。1989年から1997年まで欧州連邦主義団体 Europa-Union Deutschland の会長を務めた。1997年以降は同団体の名誉会長となっていた。2010年9月18日、逝去。80歳没。