Kluge war der Sohn des Müllers und Getreidehändlers Friedrich Kluge aus Zappendorf bei Eisleben und der Schmiedemeisterstochter Amanda Koch aus Nietleben bei Halle. Sein Vater war Organist und Lehrmeister, und Kurt zeigte früh eine vielseitige musische Begabung. Er besuchte nach dem Abitur (1904) das Lehrerseminar in Oschatz und wurde 1908 Hilfslehrer an der Volksschule in Großzschocher. Neben seinem Lehrerberuf wurde er Mal- und Zeichenschüler der Leipziger Akademie und setzte seine Studien 1910 an der Dresdner Kunstakademie fort. Er war Schüler von Max Klinger. Mit Aquarellen, Holzschnitten, Lithographien, Radierungen und Handzeichnungen hatte er erste Anerkennung erfahren, als er 1914 zum Kriegsdienst im Ersten Weltkrieg einberufen wurde. Anfang November 1914 wurde er in der Ypernschlacht bei Becelaere in Belgien so schwer verwundet, dass er endgültig aus dem Krieg heimkehrte.