Az amerikai polgárháború kezdetén, 1861. október 16-án beállt a frissen szervezett 64. New York-i önkéntes gyalogezredbe („fekete vadászok”), amelynek 1864. március 19-én ezredese lett. Kozlay vezetése alatt az ezred számos ütközetben vett részt, amelyekben még a polgárháború elején súlyos veszteségeket szenvedtek az unionisták, köztük Gross Key-i (1862. június 8.), a Bull Run-i csata (1862). 1863. május 1-3. közt vívott chancellorsville-i ütközetben az 54. számú New York-i ezred 11. Hadtest jobbszárnyát képezte, 1863-ban a gettysburgi csatában (július 1-3.) is hasonló feladatokat látott el, itt már az első nap végén vissza kellett vonulniok, mert elfogyott a lőszerük, s számos közlegény, sőt tisztek is a konföderáltak fogságába kerültek, köztük Kovács István, Szabad Imre. Kozlay legtöbb szolgálatot Franz Sigel tábornok hadtestében teljesített. Nagy érdemeket szerzett azon visszaélések leleplezésében, amelyet ezredének egyes magasabb rangú tisztjei követtek el. Érdemes szolgálataira való tekintettel 1865. március 13-án tiszteletbeli (Brevet) brigadéros-tábornokká nevezték ki. 1866. április 14-én szerelt le ezredével együtt.