Alexander Kluck est le cinquième d'une fratrie de huit enfants. Il entame une carrière militaire au sein du d'infanterie comme second-lieutenant durant la guerre austro-prussienne de 1866. Il commande une compagnie durant la guerre franco-prussienne de 1870. Il est blessé deux fois à la bataille de Colombey et reçoit à cette occasion la croix de fer. Il est nommé lieutenant au de fusiliers et reste en France jusqu'en 1873 au sein de l'armée d'occupation allemande. Il réintègre par la suite son régiment d'origine et le , il est nommé adjudant à la d'infanterie. Il est promu capitaine le et muté le même jour au d'infanterie. Du au , il dirige successivement les écoles de sous-officiers de Juliers, d'Annaburg et de Neubreisach, durant cette période il est nommé au grade de major. Le , il est à la tête d'un bataillon du d'infanterie.