ビルゼは1867年からベルリンのにあるベルリン・コンサートハウス（"Berliner Concerthaus "）でビルゼバンド（"Bilse'sche Kapelle"）を組織して定期的に演奏した。このオーケストラは次第に人気を獲得していき、ビルゼはヨーロッパ中を演奏旅行して周りサンクトペテルブルク、リガ、ワルシャワ、アムステルダム、ウィーンで演奏会を開いた。このオーケストラは1867年にパリで行なわれた万国博覧会に出演し、ヨハン・シュトラウス2世と共にワルツ『美しく青きドナウ』を演奏している。1873年にはリヒャルト・ワーグナーがこのオーケストラの指揮台に上がり、ドイツ皇帝ヴィルヘルム1世の御前で演奏を披露した。