Tchernetsky est né le à Odessa dans une famille de musiciens. De 1892 à 1893, Tchernetsky étudie le trombone dans l'orchestre du 24e régiment de dragons de Lubny à Chisinau, dont son oncle est le chef d'orchestre. En 1911, il entre au Conservatoire de Saint-Pétersbourg, dont il sort diplômé en 1917. En 1918, Tchernetsky rejoint l'Armée rouge et est nommé chef des fanfares militaires du district militaire de Saint-Pétersbourg. Il gravit rapidement les échelons avant d'être nommé directeur de la fanfare militaire de l'Armée rouge des ouvriers et paysans en 1924. Après plus de 10 ans à ce poste, il forme la fanfare militaire centrale du Commissariat du peuple à la défense nationale, qui est devenue plus tard la première fanfare militaire à être formée dans la Russie moderne. En 1935, avec le professeur Heinrich Neuhaus du Conservatoire de Moscou, il crée la Faculté militaire du Conservatoire d'État de Moscou, où les étudiants en musique reçoivent un programme basé sur la direction d'orchestre et le répertoire de combat. Le , Tchernetsky fonde l'Université de musique militaire de Moscou afin de développer et d'améliorer les connaissances des musiciens militaires potentiels de l'Armée rouge. Le , Tchernetsky dirige les fanfares lors du défilé de la victoire de Moscou en 1945 sur la Place Rouge .