Károly József Batthyány wurde 1697 als Sohn des ungarischen Grafen Ádám II. Batthyány von Németújvár (1662–1703) im Schloss Rechnitz geboren. Nach dem Tod des Vaters übernahm seine Mutter Eleonore Batthyány-Strattmann bis zu seiner Volljährigkeit seine Vormundschaft. Er trat bereits früh in die österreichische Armee ein und zeichnete sich unter Prinz Eugen von Savoyen im Krieg gegen die Türken aus, während dessen er u. a. an den Schlachten bei Peterwardein, Temeswar und Belgrad teilnahm.