Den første musikkundervisningen fikk Koželuh av Anton Kubík i hjembyen Velvary, senere av sin eldre fetter Jan Antonín Koželuh. Etter et semester på jusstudium, hoppet Koželuh av og satset alt på musikken.