Sechter kom til Wien i 1804 for å studere hos Antonio Salieri. I 1824 overtok han posten som hofforganist etter Jan Václav Voříšek. Fra 1810 underviste han i klaver og sang ved en blindeskole. I 1828 underviste han den allerede dødssyke Franz Schubert i kontrapunkt. Sechter ble i 1851 utnevnt til professor i komposisjon ved konservatoriet ved Gesellschaft der Musikfreunde i Wien.