Mikhail Kozlovskij var sønn av en trompetist i den russiske galeasflåte. Han begynte sin utdannelse i 1764 hos Anton Losenko ved i St. Petersburg. En annen lærer der som var viktig for ham, var franskmannen Nicolas-François Gillet.