Abraham renunció a la religión judía, por lo que Felix y sus tres hermanos no recibieron educación religiosa en un principio pero fueron bautizados como cristianos, concretamente como protestantes luteranos, en 1816 (momento en el que Felix tomó los nombres adicionales de Jakob Ludwig).