Filtsch var siebenbürgen-sakser. Da han var tre år gammel, fikk han klavertimer av sin far, Joseph Filtsch, en evangelisk-luthersk prest og dikter fra Mühlbach i Transylvania. Under omsorg av grevinnen Jeannette von Bánffy, reiste han i 1837 til Wien for videre undervisning, blant annet hos Friedrich Wieck. Han ble introdusert til hoffet, og ble musikk- og lekekamerat til senere keiser Franz Joseph, som var like gammel som ham. I februar 1841 debuterte han i Wien Musikverein, hvor hans «høye grad av fullkommenhet» og «dyktighet i tone, fremføring, uttrykk, styrke, og nyansering» (Moritz Gottlieb Saphir) ble lagt merke til. Han foretok konsertreiser og hadde suksess i flere byer.