Friedrich Gernsheim entstammte als Sohn eines Arztes einer angesehenen jüdischen Familie in Worms, die dort über einige Jahrhunderte nachweisbar ist. Erste musikalische Unterweisung erfuhr er in Worms durch seine Mutter, die Pianistin war. Später erhielt er Unterricht bei dem Spohr-Schüler Louis Liebe. Wegen der Unruhen im Revolutionsjahr 1848 übersiedelte er nach Mainz, wo er Klavierunterricht von Ernst Pauer erhielt.